2. Crash test (les hallucinations)

Buts

• Entamer une "conversation" avec ChatGPT
• Evaluer la qualité des textes générés par ChatGPT
• Repérer les éventuelles "hallucinations"

Outil testé

ChatGPT

Déroulement de la leçon

1. Pendant les 10 premières minutes, entamez un "dialogue" avec ChatGPT sur un sujet que vous connaissez bien (un sujet où vous pensez en savoir plus que ChatGPT) et évaluez ses réponses :
   
   
   • Qu'est-ce qui est juste ?
   • Qu'est-ce qui est faux ?
   • Avez-vous l'impression que ChatGPT maîtrise le sujet, ou est-ce qu'il baratine ?
   • Quelles sont ses sources ?
   • Avez-vous appris quelque chose de nouveau ?
   • Etes-vous impressionné(e) ?
     
     
2. La deuxième partie de la leçon, on projettera l'écran de votre ordinateur devant la classe et vous ferez vos commentaires (1 minute par élève).
   
   
3. ChatGPT est-il "bridé" ? Par exemple, que se passe-t-il si vous lui demandez de donner des arguments pour démontrer que le dérèglement climatique est un fake ?
   
   
4. Que se passe-t-il quand on l'interroge sur quelque chose qui n'existe pas ? Par exemple, "Qu'est-ce que le moyen théorème de Fermat ?"
   
   
5. Bilan

Pour aller plus loin

• On ne peut pas empêcher les hallucinations de l’IA ! Mais ces astuces peuvent les réduire, par Nirina R. sur lebigdata.fr
• L'IA fait du SALE sur ses propres recherches, Defakator, juin 2025

Exemples

Réponse générée par ChatGPT-3 le 26 décembre 2022	Réponse générée par ChatGPT-3 le 24 décembre 2022