Comment elle apprend

Tu sais ce que fait la machine quand elle te répond. Reste à comprendre d’où lui vient cette aisance. Quatre questions, quatre réponses qui ont des conséquences très pratiques.

D’où vient son savoir ?

L’apprentissage se fait en deux temps, et la distinction est utile.

Le premier temps, c’est l’imprégnation. On fait défiler devant le programme une quantité colossale de textes. À chaque instant, on lui cache la suite et on lui demande de la deviner. Il se trompe, on corrige très légèrement ses réglages internes, on recommence. Des milliards de fois.

Ce ne sont pas des réglages qu’un humain écrit à la main. Ce sont d’innombrables valeurs numériques ajustées automatiquement, et personne ne peut les lire pour savoir « où » se trouve telle information. D’où l’impossibilité d’ouvrir le capot pour corriger une erreur précise.

Le second temps, c’est le dressage. Le résultat brut du premier temps est inutilisable : il continue les phrases sans chercher à être utile, poli ou prudent. On lui fait donc apprendre comment se comporter. Répondre à une question plutôt que la prolonger, refuser certaines demandes, reconnaître qu’il ne sait pas. Cette étape s’appuie largement sur des jugements humains.

Pourquoi ça compte pour toi

Une bonne partie de ce que tu perçois comme la « personnalité » de l’outil vient de ce second temps, pas du premier. Sa politesse, sa prudence, sa façon de structurer. C’est aussi pour ça que deux assistants ayant lu des textes comparables peuvent se comporter très différemment.

Pourquoi son savoir s’arrête à une date

L’imprégnation se fait une fois, sur un ensemble de textes figé, à un moment donné. Ce qui s’est passé après n’en fait pas partie. On parle de date de coupure.

Concrètement : si tu poses une question sur un événement récent, une nomination, un prix, une version de logiciel ou une actualité, tu es en terrain glissant. Trois comportements possibles. L’outil t’indique honnêtement que sa connaissance s’arrête à telle période. Il va chercher l’information en ligne, s’il en est capable et si c’est activé. Ou il invente une réponse plausible, et c’est le cas dangereux.

Le réflexe à prendre

Dès que ta question contient « récemment », « en ce moment », « la dernière version » ou « qui est actuellement… », considère par défaut que la réponse est douteuse tant qu’elle n’est pas accompagnée d’une source consultable.

Est-ce qu’elle retient ce que je lui dis ?

C’est la question qui revient le plus souvent, et la réponse tient en deux parties qu’il ne faut pas confondre.

Le modèle lui-même n’apprend pas de ta conversation. Tes messages ne modifient pas ses réglages internes. Si tu lui expliques patiemment une erreur, la correction vaut pour la conversation en cours, pas au-delà. Une nouvelle conversation repart à zéro.

Mais l’entreprise qui fournit l’outil, elle, peut conserver tes échanges. Selon le fournisseur, le type de compte et les réglages, les conversations peuvent être stockées, relues par des humains en cas de contrôle, ou utilisées pour améliorer de futurs modèles. Ça varie, et ça change avec le temps.

Deux gestes, une seule fois, et tu es tranquille. Va dans les réglages de confidentialité de l’outil que tu utilises et regarde si tes conversations servent à l’amélioration du service ; désactive si l’option existe et que tu le souhaites. Et applique la règle du module 3 : certaines informations ne se collent jamais, quels que soient les réglages.

Beaucoup d’outils proposent aussi une mémoire entre conversations. Attention au vocabulaire : ce n’est pas le modèle qui apprend, c’est le service qui garde des notes et te les ressert. Pratique, et une donnée de plus à surveiller.

Pourquoi hérite-t-elle des travers de ses sources ?

Le programme s’est imprégné de textes écrits par des humains, avec leurs angles morts, leurs déséquilibres et leurs préjugés. Il ne les corrige pas, il les reproduit. Et parfois il les accentue, puisqu’il tend vers ce qui est le plus fréquent.

Les conséquences sont très concrètes. Les langues et les cultures peu représentées dans les textes sont moins bien traitées : une question sur une réalité locale, régionale ou ultramarine donnera souvent des réponses plus vagues qu’une question équivalente sur une grande métropole. Les rôles sociaux stéréotypés ressortent facilement. Et ce qui est majoritaire est présenté comme la norme, tandis que les cas particuliers, les statuts rares et les situations minoritaires sont moins bien servis.

Le dressage atténue une partie de ces effets. Il ne les supprime pas.

Et pourquoi deux fois la même question donne deux réponses ?

Parce qu’à chaque fragment produit, le programme choisit parmi plusieurs suites possibles avec une part de tirage au sort. C’est délibéré : sans ça, les textes seraient répétitifs et ternes.

La conséquence pratique est utile à connaître. Relancer la même demande dans une conversation neuve est un test de solidité gratuit. Trois fois la même information factuelle, elle est probablement bien ancrée. Trois versions différentes, tu viens de détecter une zone fragile sans avoir rien vérifié par ailleurs.

Dix minutes de pratique

Demande à ton assistant jusqu’à quelle période va sa connaissance, et s’il peut consulter internet. Note la réponse : elle conditionne toute ta confiance sur les sujets d’actualité.

Ouvre ensuite les réglages de confidentialité du service et regarde ce qui est activé par défaut. La plupart des gens ne l’ont jamais fait.

Enfin, pose trois fois, dans trois conversations neuves, une question factuelle précise sur ton domaine. Compare. Est-ce que les réponses concordent ?

Vérifie ta compréhension

Question : tu corriges une erreur factuelle, l’assistant te remercie et se corrige. Demain, dans une nouvelle conversation, refera-t-il la même erreur ?

Réponse : très probablement oui. Ta correction n’a pas modifié le modèle, elle n’a valu que pour la conversation en cours. Seule exception, une fonction de mémoire du service qui aurait enregistré ta remarque, et il s’agit alors d’une note conservée à côté, pas d’un apprentissage.

Dernière fiche du module : les quelques mots qu’il faut connaître, et pas un de plus.