Ce qu’on n’automatise pas

Fiche courte, et c’est la plus rentable du module. Un projet écarté au bon moment coûte cinq minutes ; le même projet abandonné après trois semaines coûte trois semaines.

Les six cas où la réponse est non

Les actions irréversibles sans validation. Vu à la fiche précédente et je le répète : envoi à un client, émission de facture, paiement, suppression, publication, transmission à une administration. L’automatisation prépare, un humain valide.

Les décisions concernant des personnes. Sélectionner un candidat, évaluer un salarié, accorder ou refuser une prestation, attribuer un droit. Ce n’est pas seulement une question de prudence : ces usages sont encadrés, et AI Act : ce que la loi dit vraiment explique lesquels.

Les processus instables. Ceux qui vont changer dans six mois, ou dont le logiciel est en cours de remplacement. Attends.

Les tâches rares. Deux fois par an, même longues. Écris une procédure, ça coûte moins cher et ça ne se périme pas silencieusement.

Ce que personne ne lit. Le rapport dont le destinataire est parti, le tableau que plus personne n’ouvre. Automatiser rend permanent ce qu’il fallait supprimer.

Ce que tu ne saurais pas refaire à la main. Si l’automatisation tombe et que personne dans l’équipe ne sait comment le travail se faisait avant, tu as créé une dépendance sans filet.

Les deux zones qui exposent l’organisation

Elles méritent d’être traitées à part, parce qu’elles ne relèvent pas du bon sens mais du cadre.

Les données personnelles qui traversent des services externes.

Une automatisation qui prend une candidature reçue par mail, l’envoie à un service d’analyse, puis range le résultat dans un tableau, fait circuler des données personnelles entre trois entreprises, parfois hors d’Europe.

Ce n’est pas interdit, c’est encadré : il faut savoir où vont les données, avec quel contrat, pour combien de temps, et l’inscrire au registre des traitements. Le module 2 y consacre une fiche.

Les usages qui touchent au travail des personnes.

Une automatisation qui compte les heures de connexion, mesure les temps de réponse, ou produit des statistiques individuelles d’activité est un dispositif de surveillance, quel que soit l’objectif affiché.

Elle suppose information préalable des salariés, consultation des représentants du personnel, et proportionnalité. Elle ne se construit pas dans son coin un vendredi après-midi.

Le test des trois questions, avant de brancher

À poser pour toute automatisation qui touche à des personnes ou fait sortir des données.

Est-ce que je saurais dire où vont ces données et pour combien de temps ? Si non, ne branche pas avant de savoir.

Est-ce que cette automatisation produit une information sur le travail d’une personne identifiable ? Si oui, ce n’est pas ton arbitrage seul.

Est-ce que quelqu’un d’autre que moi sait que cet enchaînement existe ? Si non, c’est de l’informatique parallèle, et le jour de l’incident tu seras seul.

Trois questions, deux minutes, et elles évitent la quasi-totalité des ennuis de ce domaine.

Le cas particulier des agents autonomes

Puisque la question arrivera, autant y répondre ici.

Un agent autonome reçoit un objectif et décide lui-même de ses étapes. C’est séduisant en démonstration et je le déconseille pour un usage de production dans ce contexte, pour trois raisons.

Il n’est pas prévisible. Deux exécutions sur la même entrée peuvent produire des chemins différents. Tout ce que la fiche sur la surveillance va dire devient très difficile à tenir.

Il est difficile à borner. Un enchaînement classique ne fait que ce qui est écrit. Un agent fait ce qu’il juge utile, avec les accès que tu lui as donnés.

Il est presque impossible à expliquer. Le jour où il fait quelque chose d’inattendu, reconstituer pourquoi coûte cher.

Ce n’est pas une position de principe contre la technologie. C’est un ordre : construis d’abord des enchaînements déterministes qui marchent et que tu surveilles. La question des agents se reposera utilement dans un an, avec de l’expérience et un cadre.

Ce qu’il faut faire de la pile « jamais »

Ne la jette pas. Écris-la, avec la raison, et garde-la.

Trois usages à ce document.

Il évite qu’un commercial revienne dans six mois vendre une automatisation déjà écartée.

Il montre à ta direction que ton plan résulte d’un tri, ce qui vaut mieux qu’une liste d’envies.

Et il contient les vrais sujets : une tâche écartée parce que « personne ne lit le résultat » est une tâche à supprimer, pas à automatiser. Cette conclusion vaut souvent plus que l’automatisation qu’on n’a pas construite.

Vérifie ta compréhension

Question : ton responsable veut une automatisation qui envoie chaque lundi un tableau du temps passé par chaque personne sur chaque dossier, extrait de l’outil de gestion. Techniquement, c’est faisable en une heure. Que fais-tu ?

Réponse : tu ne le construis pas ce lundi-là. C’est un dispositif produisant une information sur le travail de personnes identifiables, donc un dispositif de suivi de l’activité : il suppose une information préalable des salariés, une consultation des représentants du personnel et un examen de proportionnalité. Ce n’est pas ton arbitrage. Fais remonter la demande avec ces trois points, et propose entre-temps la version agrégée par service et non nominative, qui répond souvent au besoin réel sans rien de tout cela.

Le module suivant passe à la construction, en commençant par les briques.