atomik.Audit IA offert
Notion 6 sur 7

Ce que l'IA ne sait pas faire, et quand elle invente

L'IA écrit bien, vite, et avec assurance. C'est justement le piège : elle a le même ton quand elle a raison et quand elle se trompe.

Parfois, j'invente. Avec beaucoup d'aplomb.

La question

Quel article de loi fixe les délais de paiement ?
Une question précise, qui attend une réponse précise.

La réponse

C'est l'article L. 441-10, et voici ce qu'il dit…
Le ton est sûr. Le numéro peut être juste… ou inventé.

Le réflexe

Donne-moi ta source, je vérifie.
On vérifie toujours un chiffre, une date, une référence.

Pourquoi elle invente

L'IA ne consulte pas une base de faits : elle écrit la suite la plus probable d'un texte. La plupart du temps, la suite probable est juste. Mais quand elle ne sait pas, elle ne s'arrête pas : elle produit quelque chose qui ressemble à une bonne réponse. Un chiffre, une date, une référence de loi, le nom d'un fournisseur. On appelle ça une hallucination.

Comment la repérer

  • Méfiez-vous des chiffres précis, des dates, des citations et des références : ce sont eux qui sont le plus souvent inventés.
  • Demandez la source, puis ouvrez-la.
  • Donnez-lui vos documents et demandez-lui de répondre uniquement à partir d'eux, en citant le passage.
  • Autorisez-la à dire « je ne sais pas ». Ça paraît bête, ça marche.

Ce qu'elle ne sait pas faire

  • Connaître votre entreprise si vous ne la lui présentez pas.
  • Être à jour sur l'actualité, sauf si l'outil fait une recherche sur internet.
  • Calculer sans erreur sur de gros volumes : pour les chiffres, demandez-lui d'utiliser un tableur ou de montrer son calcul.

Ce qu'elle ne doit pas faire chez vous

  • Fixer un prix ou signer un contrat.
  • Répondre seule à un client sur un sujet délicat.
  • Décider à la place de vos équipes : elle leur rend du temps.
À retenir

L'IA prépare. Un humain vérifie tout ce qui engage l'entreprise.

À essayer

Ouvrez une demande, copiez-la dans l'IA de votre choix et remplacez ce qui est surligné. Des noms, des coordonnées, un document confidentiel ? Avec une IA grand public, remplacez-les d'abord par des repères (« client A ») : voir Vos données.

1Autoriser le « je ne sais pas »
Réponds à cette question uniquement si tu en es sûr. Si tu n'es pas certain, dis-le clairement et explique ce qu'il faudrait vérifier : [question].
2Répondre à partir de mes documents
Voici nos conditions générales de vente. Réponds à la question du client uniquement à partir de ce texte, et cite le passage exact. Si la réponse n'y est pas, dis-le.
Question : [question du client]
[collez les CGV]
3Faire vérifier un texte
Relis ce texte et liste toutes les affirmations vérifiables (chiffres, dates, noms, références). Pour chacune, dis si tu es sûr ou s'il faut la vérifier.
[collez le texte]
On regarde votre cas ensemble ?
Kevin
Diagnostic offert

30 minutes pour voir par où commencer.

Un appel avec Kevin, offert et sans engagement. On regarde une ou deux tâches qui vous prennent du temps, et vous repartez avec une première étape claire.

Page suivanteComprendre · Notion 7Vos données : où vont-elles ?