Un token, c'est quoi ?

Un message s'affiche : « limite atteinte ». Rien de grave. Pour le comprendre, il faut savoir comment l'IA lit.

Un token, c'est un morceau de mot

L'IA ne lit ni lettre par lettre, ni mot par mot : elle découpe le texte en petits morceaux appelés tokens. « Bonjour », c'est un ou deux tokens. Une page de texte, c'est de l'ordre de quelques centaines de tokens. Un gros rapport, des dizaines de milliers.

La mémoire de travail

Chaque IA a une mémoire de travail (on parle aussi de « fenêtre de contexte ») : tout ce que vous lui envoyez doit y tenir. Votre question, vos fichiers, ses réponses et tout l'historique de la conversation : tout se compte.

Quand cette mémoire est pleine, deux choses peuvent arriver : un message de limite, ou, selon les outils, l'IA oublie le début de la conversation sans prévenir. C'est pour ça qu'une très longue discussion finit par donner des réponses moins justes.

Pourquoi ça compte aussi pour le prix

Les abonnements ont des limites d'usage, comptées en tokens. Et les outils branchés sur vos logiciels se facturent au token : plus vous envoyez de texte inutile, plus ça coûte, et plus la réponse est lente.

Les bons réflexes

• Un nouveau sujet ? Une nouvelle conversation.
• Plutôt que 300 pages, donnez les 10 qui comptent.
• Sur une longue discussion, demandez un résumé, puis repartez avec ce résumé dans une conversation neuve.

Comme une bonne réunion : un sujet, les bons papiers, et moins de blabla.

Résume notre conversation en 10 lignes : le contexte, les décisions prises, ce qui reste à faire. Je vais coller ce résumé dans une nouvelle conversation pour continuer.

Voici la table des matières d'un long document. Dis-moi quelles parties tu as besoin de lire pour répondre à cette question : [question].

Réponds en 5 lignes maximum, sans répéter ma question et sans conclusion. Si tu as besoin de précisions, pose une seule question.