Tu poses une question à une IA. La réponse arrive en deux secondes, bien rédigée, sûre d’elle. Et pourtant, elle est fausse : une date inventée, un auteur qui n’a jamais écrit ce livre, une formation qui n’existe pas.
Ce n’est pas un accident rare. C’est une conséquence directe de la façon dont ces outils fonctionnent. Comprendre pourquoi, c’est déjà savoir s’en protéger.
Une IA ne « sait » pas, elle prédit
Les IA qui écrivent du texte ont appris sur d’immenses quantités de textes. Quand tu leur poses une question, elles produisent, mot après mot, la suite qui leur paraît la plus plausible.
Plausible ne veut pas dire vrai. Le plus souvent, les deux coïncident. Mais quand l’IA manque d’informations, elle ne s’arrête pas forcément : elle complète avec quelque chose qui a l’air juste. C’est ce qu’on appelle une « hallucination ».
Quatre situations où elle se trompe plus souvent
- Les informations récentes. Une IA a appris sur des textes qui s’arrêtent à une certaine date. Un calendrier, une réforme ou un prix qui a changé depuis peut lui échapper.
- Les détails précis. Dates, chiffres, citations, titres de livres, noms de formations : c’est là que les inventions se glissent le plus facilement.
- Les questions floues. Si ta question peut se comprendre de deux façons, elle en choisit une, pas forcément la tienne.
- Les questions qui orientent la réponse. Demande « Pourquoi cette formation est-elle la meilleure ? » et elle aura tendance à te trouver des raisons, même si elle n’est pas la meilleure pour toi.
Cinq réflexes pour repérer une erreur
- Demande ses sources, puis va les lire. Une source introuvable est un signal d’alarme.
- Recoupe avec une référence fiable : ton cours, ton manuel, un site officiel.
- Méfie-toi de ce qui est trop précis et trop parfait : un chiffre au dixième près ou une citation impeccable, sans aucune référence.
- Repose la question autrement. Si les réponses changent beaucoup d’une formulation à l’autre, c’est que l’IA n’est pas sûre d’elle.
- Ne te contente pas d’un « tu es sûr ? ». L’IA peut confirmer une erreur, ou abandonner une bonne réponse, simplement parce que tu as l’air d’en douter.
Pour ton orientation, une règle simple
Pour tout ce qui engage ton avenir, comme une date limite, une condition d’admission ou le contenu d’une formation, la référence reste la source officielle : le site de la formation, l’ONISEP, la plateforme d’admission. Une IA peut t’aider à défricher, pas à trancher.
C’est pour cela que Repère, l’assistant que nous préparons, répondra à partir de nos fiches, citera celles qu’il utilise et te dira quand il ne sait pas.
À retenir
Une IA est un bon point de départ et un mauvais point d’arrivée. Garde-la comme partenaire de réflexion, et garde le dernier mot pour toi.
Pour aller plus loin, relis les compétences que l’IA ne remplace pas, à commencer par l’esprit critique.
Article écrit par Fabien, coach en orientation.