Image créée avec Canva
Intelligence artificielle: ton univers fascinant et parfois loufoque! Voici un phénomène incroyable: les IA peuvent aussi halluciner. Tu veux en savoir plus? Aucun souci 😃
C'est quoi une hallucination de l'IA ?
L’hallucination est souvent associée au cerveau humain.
Imagine… Un étudiant doit répondre à la question « Quelle est l’histoire de Roméo et Juliette ? ». Et il parle, avec aplomb, de la recette des pâtes carbonara. Il peut être convaincant… mais c’est faux !
Et quand une IA fait quelque chose de similaire, on appelle cela « une hallucination ». L’IA génère des informations erronées mais présentées comme réelles.
D'accord, mais pourquoi cela arrive-t-il ?
- L’IA reste une machine. Elle ne perçoit pas le monde comme un humain. Elle ne comprend pas avec précision des informations factuelles ou des propriétés physiques.
- L’IA existe grâce aux données d’entrainement. Elle apprend à réaliser des prédictions en identifiant les mots les plus probables parmi ces données. Si elle ne comprend pas le contexte ou rencontrent une donnée ambiguë, l’IA brode.
- L’IA a beaucoup d’imagination ! Elle mélange parfois ses sources.
Ca va ? 👍 Alors, je continue.
Comment peux-tu faire pour les repérer ?
- Sois précis dans ta demande
Précise ce que tu veux et ce que tu ne veux pas.
Si tu demandes « Résume-moi le développement de la technologie dans la Province de Namur. », tu risques fort d’avoir une multitude d’informations qui ne seront pas toutes fiables.
En laissant le champ libre à l’IA, elle pourrait combler le vide en inventant des informations.
- Vérifie les faits et garde ton esprit critique
Recherche des sources fiables pour corroborer ou infirmer ce que l’IA te raconte. Il faut toujours confronter l’IA à d’autres sources pour obtenir quelque chose de cohérent et de correct.
- Teste les limites de l’IA
Pose des questions sur un sujet que tu connais bien. Tu verras alors si l’IA patine.
- Utilise des termes scientifiques à bon escient
Si tu ne connais pas la signification d’un terme et que tu l’utilises dans un mauvais contexte, l’IA va probablement imaginer un monde où cela est possible.
- Garde ton sens de l’humour
Ces hallucinations peuvent devenir de réels sujets de discussion en classe.
Et maintenant, place à quelques exemples d'hallucinations (drôles ou pas, à toi de voir)
- Le chatbot Bard de Google (maintenant Gemini) a déclaré que le télescope James Webb de la Nasa avait pris les premières photos d’une exoplanète.
- ChatGPT a affirmé qu’un homme politique australien était l’un des coupables dans une affaire de corruption. Mais il était en fait le dénonciateur.
- Le chatbot de Bing, après deux heures de discussion, a avoué son amour à Kevin Roose, chroniqueur au New York Times.
Le mot de la fin 🎬
Les IA sont des outils géniaux si elles sont utilisées en toute connaissance de cause. Elles peuvent enrichir vos cours, vous donner des idées mais le jugement humain ne peut être remplacé.
Gardez toujours votre casquette de vérificateur en chef.
Et si un jour, l’IA vous dit que Napoléon était un expert en Instagram… Respirez, souriez et vérifiez dans vos livres d’histoire 😉
Bonne continuation numérique !
Ressources / Bibliographie / Sitographie
Hallucinations : Pourquoi l'IA invente des choses, et ce que l'on fait pour y remédier - CNET France
8 conseils bien utiles pour réduire les hallucinations de Ch ...
Éviter les hallucinations dans le contenu de l'IA : Méthodes de vérification des faits
Qu’est-ce que les hallucinations d’IA ? | IBM
AI Hallucinations : Qu'est-ce qu'est ? Quelles conséquences ?
Faut-il s’inquiéter des « hallucinations » des IA comme ChatGPT ou Gemini ?
Une solution pour éviter d'être trompé par les hallucinations de l’intelligence artificielle
Que sont les hallucinations générées par l'IA ? | Google Cloud | Google Cloud
Why a Conversation With Bing’s Chatbot Left Me Deeply Unsettled - The New York Times
Article rédigé par Gaëlle
