Mixetto/Getty Images
ChatGPT peut fournir des informations intéressantes, générer et corriger des exercices de maths… Mais il faut vérifier ce qu’il nous dit.
BACCALAURÉAT – Quiz, planning de révision, exercices et leurs corrections… Des tutoriels circulant sur les réseaux sociaux expliquent comment réviser avec ChatGPT. Mais l’agent conversationnel développé par OpenIA est-il fiable ? Alors que les épreuves de spécialité du baccalauréat débutent ce lundi 20 mars 2023 jusqu’au mercredi 22 mars, nous posons la question à Laurence Devillers, professeur d’informatique appliquée aux sciences sociales à Sorbonne Université et auteur d’un ouvrage Robots émotionnels (publié par L’Observatoire).
“ChatGPT peut apporter des informations intéressantes. Les lycéens peuvent l’utiliser. Mais ne vous fiez pas à tout ce qu’il dit.”, prévient-elle. Pour générer du texte, l’IA “prédit le mot le plus probable après la séquence écrite, et parfois en piochant dans une liste des mots les plus probables”explique le professeur. « Cette ouverture aléatoire signifie que le système peut générer des textes différents, qui peuvent être plus inventifs ou complètement faux. »
Quelle est la prochaine après cette annonce
“Il n’est pas fiable”
Alors que pouvez-vous faire avec ChatGPT pour réviser ? Cela peut aider car il est capable de fournir beaucoup d’informations à partir de nombreux documents. “Il peut proposer des plans de dissertation, des résumés, il peut nous aider à prendre conscience des idées les plus répandues sur un sujet…”liste Laurence Devillers.
Mais l’étudiant ou le lycéen qui l’utilise doit vérifier si “cette information est cohérente”d’après elle. “Il faut croiser avec ses recherches personnelles pour vérifier” et ne croyez pas tout ce que dit ChatGPT : « Il répond toujours comme s’il disait quelque chose de réel. Mais ce n’est pas fiable. »
L’IA peut résoudre certains problèmes mathématiques lorsque la solution à ces problèmes est déjà connue. Elle n’est pas capable de raisonner… Seulement pour chercher une solution qui a déjà été trouvée. « Et vous devez encore vérifier. ChatGPT peut faire des erreurs, voire se contredire, même pour la solution d’un exercice de maths. »
Quelle est la prochaine après cette annonce
2023 ? ChatGPT ne sait pas
Difficile de réviser avec un outil qui peut se tromper. “Il faut souligner ce qu’il dit est important, puis vérifier les dates, les calculs, croiser les sources puis restituer le contenu par ses propres moyens”conseille Laurence Devillers.
Sur ce dernier point, elle insiste : « Un enseignant veut voir votre créativité. Je conseille de restituer les connaissances acquises sur ChatGPT avec ses propres mots et de développer ses propres idées sur ces connaissances pour ne pas copier bêtement ce qu’il dit. C’est à vous d’ajouter des choses personnelles. » D’autant plus que le système “Risque de répétition d’informations issues de la pensée la plus répandue”, sans forcément apporter de nuance, souligne-t-elle.
Autre écueil de cet agent conversationnel : ses connaissances s’arrêtent en 2021. Par exemple, il ne sait pas que la reine Elizabeth II est décédée en septembre 2022. Mais “le ChatGPT actuel sera de plus en plus amélioré”. C’est déjà le cas pour certaines versions d’IA : la start-up OpenIA vient de dévoiler la technologie GPT-4, qui n’est disponible que via un abonnement payant – la version gratuite de ChatGPT est basée sur sa version antérieure, GPT-3.5. GPT-4 intègre ” un mécanisme qui peut prendre en compte de nouvelles informations », dit Laurence Devillers. En tout cas, nous sommes encore loin du jour où ChatGPT pourra passer le bac à votre place.
Voir aussi sur Le Huff Post :