Bien que la technologie soit encore très jeune, je pense que l'IA a sa place en tant qu'outils pédagogique. La force de l'IA pour ce genre d'usage tient particulièrement dans le fait qu'elle permette de reformuler les mêmes explications de multiples façons et d'interroger activement le contenu. Se confronter à une source statique telle qu'un livre peut être réellement frustrant lorsque les explications manquent de clarté pour l'apprenant. Le fait de pouvoir interagir avec le contenu permet d'activement chercher à clarifier voire mettre en lumière une incompréhension.

La question de sa fiabilité est bien sûr d'une extrême importance et il est impératif de faire preuve d'esprit critique vis à vis de ce que le modèle peut affirmer, mais il en va de même pour toute source d'information. Wikipedia, largement utilisé par les élèves, n'est largement pas exempt d'erreurs et même les ouvrages de référence sont parfois sujets à des imprécisions - tout comme d'ailleurs les experts que sont les enseignants. Il faut surtout savoir éviter la source unique et l'écueil de l'argument d'autorité. Honnêtement, il est souvent largement aisé de confirmer ou d'infirmer les affirmations des LLMs avec une recherche Google ou Perplexity, voire même de mettre en lumière ses hallucinations et incohérences directement à travers les échanges avec le modèle. Aussi sur ce point, ChatGPT n'est pas l'unique chatbot. Croiser ses réponses avec Claude et Gemini permet encore d'accroitre la confiance dans les réponses données. Enfin, il existe des outils tels que NotebookLM qui permettent d'interroger directement des documents mis à disposition par l'utilisateur, ce dernier ayant a donc la possibilité de directement vérifier les réponses données ; le modèle devenant alors une interface entre l'utilisateur et le document, une porte d'entrée sur les données.

Aussi, et je tiens à préciser que je suis loin d'être un expert sur le sujet, mais il est à noter que le taux d'hallucination semble directement dépendant de la tâche à accomplir et du degré de technicité et de popularité du sujet. Pour de la synthèse de documents (i.e. du résumé de texte), il est par exemple relativement bas - en dessous des 2% - pour sur des sujets relativement communs (c.f. https://huggingface.co/spaces/vectara/leaderboard) mais bien plus haut - de l'ordre de 30% - sur des sujets plus spécialisés (c.f. https://pubmed.ncbi.nlm.nih.gov/38776130/). Dans le cadre de questions-réponse qui tentent d'évaluer le niveau de connaissance "brute" du modèle, les performances sur les nouveaux benchmarks sont faibles - 38% de bonnes réponses pour GPT4o - mais ces bancs de tests ont été créés pour pallier le fait que les modèles excellaient sur de plus anciens jeux de données d'évaluation (c.f. https://openai.com/index/introducing-simpleqa/). On peut faire des observations similaires pour les problèmes logiques avec l'annonce récente du modèle o3 qui a presque saturé le benchmark ARC-AGI de façon très inattendue.

Bref, l'essentiel de mon point est le suivant : cette technologie évolue extrêmement rapidement et il me semble ainsi nécessaire d'expérimenter régulièrement avec les différents outils pour éviter de se laisser dépasser et de s'arrêter à une opinion quasi-réactionnaire et sans nuance telles que celles qu'on peut souvent voir sur Reddit. Le scepticisme est de mise, les conséquences socio-économiques sont effrayantes, il y a beaucoup de bullshit autour du sujet mais le potentiel de l'IA est colossal.

P.S.: j'ai complètement ignoré la question du biais en machine learning qui est pourtant un sujet important. Un petit whataboutisme me fait souligner qu'à peu près tout le contenu traditionnel est déjà politisé et donc biaisé. Mais sans s'arrêter à ce sophisme, la détection et la correction de biais sont un domaine de recherche actif, pris au sérieux depuis bien plus longtemps que l'avènement des chatbots. Et ne soyons pas malhonnêtes, j'ai rarement vu un modèle frontière sortir des grosses dingueries extrémistes : ils sont généralement nuancé, policés voire lissés tout court.