Connaître les ressources à votre disposition

Intelligence artificielle : les risques de l’IA dans l’orientation – biais, simplifications et illusions

écouter le podcast

L’intelligence artificielle s’est imposée dans l’orientation scolaire à une vitesse impressionnante.

Aujourd’hui, un lycéen peut interroger l’IA, comparer des formations, explorer des métiers ou même structurer un projet en quelques minutes. L’expérience est fluide, rapide, souvent rassurante.

C’est précisément ce qui la rend dangereuse.

Car l’IA ne se trompe pas seulement quand elle donne une mauvaise information.

Elle peut surtout induire en erreur… tout en donnant l’impression d’avoir raison.

Le premier piège : des réponses trop générales pour être vraiment utiles

L’IA fonctionne par généralisation. Elle produit des réponses qui sont statistiquement plausibles, mais rarement ajustées à une situation individuelle.

Prenons un exemple simple.

Un élève demande : “quelles études pour travailler dans le marketing ?”

La réponse sera propre, structurée, et globalement correcte. Elle mentionnera des licences, des écoles de commerce, des parcours possibles. Mais elle ne prendra pas en compte le profil réel de l’élève, ses résultats, ses contraintes ou ses préférences.

Le problème n’est pas que la réponse est fausse. Le problème est qu’elle est trop large pour être décisionnelle.

Un autre élève, avec un niveau académique plus fragile ou un rapport différent au travail, recevra exactement le même type de réponse. Or, les implications ne sont pas les mêmes.

-> L’IA informe.Elle ne discrimine pas.

Le biais le plus insidieux : valider sans questionner

Les modèles d’intelligence artificielle ont été conçus pour répondre, pas pour contredire.

Cela crée un biais structurel.

Un adolescent affirme : “je veux faire médecine”

L’IA va expliquer le parcours, détailler les étapes, parfois proposer des alternatives comme les LAS ou PASS. Mais elle va rarement remettre en question le choix initial.

Elle ne demandera pas :

pourquoi ce choix
quelle compréhension réelle du métier
quelle capacité à tenir dans la durée

-> Elle accompagne la direction donnée.

C’est un point critique. Car dans l’orientation, les mauvaises décisions ne viennent pas d’un manque d’information, mais de choix non interrogés.

L’illusion la plus dangereuse : la certitude

L’IA produit des réponses structurées, fluides, convaincantes. Elle ne doute pas, elle n’hésite pas, elle ne nuance que très peu spontanément.

Cela crée un effet psychologique puissant.

Une réponse bien formulée donne l’impression d’être fiable.

Un raisonnement clair donne l’impression d’être juste.

Prenons un cas fréquent.

Un lycéen demande : “est-ce que j’ai mes chances en école de commerce ?”

L’IA peut produire une réponse encourageante, en listant les voies possibles, les critères, les stratégies. Le discours est cohérent, rassurant, logique.

Mais il repose sur une information incomplète.

-> L’IA ne connaît pas le dossier réel

-> Elle ne voit pas les appréciations

-> Elle n’évalue pas la concurrence

Et pourtant, elle produit une réponse qui semble engageante. C’est là que l’illusion de certitude s’installe.

Des recommandations biaisées… sans que cela se voie

Autre point rarement évoqué : les biais.

L’IA s’appuie sur des données existantes, des contenus en ligne, des tendances dominantes. Elle reproduit donc, sans le vouloir, certains biais.

Par exemple, certains métiers ou parcours peuvent être surreprésentés parce qu’ils sont plus visibles, plus documentés ou plus valorisés socialement. D’autres, moins médiatisés, apparaissent peu.

Un élève intéressé par un domaine créatif peut se voir orienté vers des parcours classiques, simplement parce qu’ils sont plus présents dans les données.

De la même manière, certaines voies alternatives, moins linéaires ou moins connues, peuvent être sous-explorées.

-> L’IA ne ment pas

-> mais elle reflète un monde déjà biaisé

La simplification excessive : comprendre vite… mais mal

Pour être utile, l’IA simplifie.

Elle résume des parcours complexes, clarifie des systèmes, rend l’information accessible. C’est une force.

Mais cette simplification a un coût.

Les nuances disparaissent. Les exceptions sont gommées. Les contraintes sont atténuées.

Un métier peut être présenté de manière attractive, sans que les difficultés réelles soient pleinement visibles. Une formation peut sembler accessible, sans que le niveau d’exigence soit clairement perçu.

-> Ce qui est simplifié est plus facile à comprendre mais pas toujours plus fidèle à la réalité

Le risque de court-circuiter la réflexion

C’est probablement le risque le plus important.

L’IA permet d’obtenir une réponse rapidement. Trop rapidement.

Un élève peut passer de la question à une réponse structurée en quelques secondes, sans passer par les étapes intermédiaires :

se poser les bonnes questions
hésiter
explorer
douter

Or, ces étapes sont essentielles.

Un projet d’orientation solide se construit dans le temps, avec des allers-retours, des ajustements, des remises en question.

L’IA, en accélérant le processus, peut donner l’illusion que ce travail a été fait.

Ce que cela change concrètement pour les familles

Le risque n’est pas que l’IA remplace l’orientation.

Le risque est qu’elle donne une illusion de maîtrise.

Un adolescent peut sembler avancer rapidement, produire des réponses, structurer un projet. Mais cette progression peut être superficielle.

Le rôle des parents devient alors plus exigeant. Il ne s’agit plus d’apporter des réponses, mais de vérifier que le raisonnement tient.

Poser des questions, demander des explications, creuser les choix devient essentiel.

Comment utiliser l’IA sans tomber dans ces pièges

L’IA peut rester un outil utile, à condition de la repositionner.

Elle est pertinente pour explorer, comprendre, comparer. Elle devient problématique lorsqu’elle est utilisée pour décider ou valider.

Le bon usage consiste à s’en servir comme point de départ, puis à confronter les réponses à la réalité : données officielles, témoignages, échanges humains.

Un élève qui utilise l’IA pour ouvrir des pistes progresse.

Un élève qui l’utilise pour conclure s’expose à des erreurs.