Ce que l'IA peut et ne peut pas faire pour vous

Ce que vous allez apprendre

• Ce que les outils d'IA générative font bien, et où ils sont faibles
• Pourquoi un outil d'IA peut paraître sûr de lui et pourtant se tromper
• Comment choisir une première tâche adaptée au fonctionnement de ces outils

L'idée

Les outils de chat d'IA par lesquels la plupart des gens commencent relèvent de l'IA générative : ils créent du texte, des images ou d'autres contenus nouveaux à partir de votre demande. Derrière la plupart des outils de texte se trouve un grand modèle de langage, un système entraîné sur une très grande quantité de texte pour prédire quels mots ont des chances de venir ensuite. Il ne « sait » pas les choses comme un ouvrage de référence. Il produit une réponse qui correspond au schéma de votre question.

Ce fonctionnement rend ces outils utiles quand une bonne première version compte plus qu'un fait exact : rédiger un e-mail, expliquer une idée avec des mots plus simples, résumer un long texte que vous collez, trouver des idées de noms ou d'angles, et remettre des notes en désordre sous forme de tableau ou de liste.

Ce même fonctionnement explique les points faibles. Des faits précis, des noms, des prix et des dates peuvent être faux tout en paraissant sûrs. Des événements récents peuvent manquer, car les connaissances du modèle s'arrêtent à sa date limite des connaissances, le moment après lequel il n'a plus été entraîné sur de nouvelles informations. Les calculs peuvent déraper : vérifiez tout chiffre important. Et il ne peut rien savoir de votre situation que vous ne lui ayez pas dit.

Certains outils peuvent faire des recherches sur le web ou lire les fichiers que vous importez. L'outil peut alors travailler avec des informations plus récentes ou plus précises, mais il peut toujours mal lire ou mal rapporter ce qu'il a trouvé. La recherche change ce que l'IA peut voir. Elle ne dispense pas de vérifier.

Exemple

Une étudiante doit écrire un e-mail à son professeur au sujet d'un devoir en retard. Voici une mauvaise utilisation de l'IA :

Quelle est la règle de mon université pour les devoirs rendus en retard ?

L'outil n'a aucun moyen de connaître la règle de votre université, sauf s'il fait une recherche et trouve la bonne page. Sans cela, il peut écrire une règle qui a l'air vraie mais ne l'est pas. Un meilleur partage consiste à trouver la règle vous-même et à utiliser l'IA pour la rédaction :

Aide-moi à écrire un e-mail court et poli à mon professeur. J'ai
dépassé de deux jours la date limite de ma dissertation parce que
j'étais malade. J'ai un certificat médical. Je voudrais demander si je
peux encore la rendre cette semaine. Moins de 120 mots.

La deuxième demande s'appuie sur ce que l'outil fait bien : la rédaction, le ton et la structure. Les faits, comme les dates, le certificat et la demande, viennent de l'étudiante.

À vous de pratiquer

1. Ouvrez n'importe quel outil de chat d'IA auquel vous avez accès. Si vous n'en avez pas encore, Aidez-moi à choisir peut vous proposer un point de départ.
2. Demandez-lui d'expliquer un sujet que vous connaissez déjà bien, en trois courts paragraphes.
3. Lisez la réponse et marquez chaque phrase comme correcte, en partie correcte ou fausse.
4. Posez au même outil une question sur un événement des derniers jours.
5. Comparez les deux réponses. Notez où il a été utile et où il a deviné ou dit qu'il ne savait pas.

À la fin, vous devriez avoir une courte liste de ce que cet outil a bien fait, et au moins un point sur lequel il s'est trompé ou qu'il ne pouvait pas savoir.

Copiez ce modèle

J'ai besoin d'aide pour [tâche, par exemple : rédiger, expliquer,
résumer, trouver des idées ou remettre en forme].

Voici ce que tu dois savoir : [les faits et détails que je fournis].

Donne-moi [la forme voulue, par exemple : un e-mail court, cinq
points, un tableau].

Si une partie de ta réponse dépend de faits que je ne t'ai pas
donnés, liste ces parties à part et signale que tu as un doute à
leur sujet.

Demander à l'IA de signaler ses doutes ne rend pas sa réponse exacte. Continuez à vérifier les points importants.

Vérifiez le résultat

• La réponse s'en tient-elle aux faits que vous avez donnés, ou en ajoute-t-elle de nouveaux ?
• Pouvez-vous confirmer ailleurs les noms, chiffres, dates et citations ?
• Quelque chose dépend-il d'événements récents que l'outil ne connaît peut-être pas ?
• S'il a fait des calculs, avez-vous vérifié le résultat vous-même ?
• Le résultat est-il vraiment utile pour votre tâche, ou se lit-il seulement facilement ?

Erreurs fréquentes

• Utiliser l'IA comme moteur de recherche pour des faits précis. Une réponse fluide n'est pas une réponse vérifiée. Cherchez les faits dans une source fiable et servez-vous de l'IA pour la rédaction et la réflexion autour.
• Supposer qu'elle vous connaît. Elle ne sait que ce qui figure dans la conversation. Donnez-lui les détails nécessaires, mais laissez de côté les données privées comme les numéros d'identité, les mots de passe ou les informations personnelles d'autres personnes.
• Croire des chiffres parce qu'ils ont l'air précis. Des chiffres d'apparence exacte peuvent être faux. Recalculez tout ce sur quoi vous allez vous appuyer.
• Abandonner après une réponse décevante. Une demande vague donne un résultat vague. Réessayez avec une tâche plus claire, comme dans Poser votre première question.