Ce que ça vous oblige à faire

Le fournisseur d’un système à haut risque porte l’essentiel des obligations techniques : documentation, gestion des risques, qualité des données, journalisation, marquage.

Ce n’est pas ton sujet. Le tien, c’est ce qui pèse sur l’entreprise qui utilise le système, et qui est souvent découvert au moment où l’outil est déjà en place.

Les obligations de l’utilisateur, en six points

Utiliser le système conformément à sa notice. Ça suppose de l’avoir lue, et de l’exiger si le fournisseur ne l’a pas fournie. Un outil sans documentation d’usage est un outil qu’on ne peut pas utiliser conformément.

Confier la supervision humaine à des personnes compétentes, formées, et disposant de l’autorité et des moyens de le faire réellement. Une supervision par quelqu’un qui n’a ni le temps, ni les compétences, ni le pouvoir de contredire le système n’est pas une supervision.

Veiller à la pertinence des données d’entrée que vous fournissez, dans la mesure où vous les contrôlez.

Surveiller le fonctionnement et alerter le fournisseur et les autorités en cas de problème ou d’incident grave.

Conserver les journaux générés par le système, quand vous en avez le contrôle.

Informer les personnes concernées. Deux obligations distinctes, détaillées ci-dessous, et ce sont celles qu’on oublie.

L’information des travailleurs et de leurs représentants

Point capital et méconnu : avant de mettre en service un système d’IA à haut risque sur le lieu de travail, l’employeur informe les représentants des travailleurs et les travailleurs concernés qu’ils vont y être soumis.

Ce n’est pas une politesse. C’est une obligation du règlement, et elle est préalable.

Elle se cumule avec ce que prévoit déjà le code du travail français, qui est plus exigeant encore sur certains points.

Ce que le droit français prévoit déjà	En pratique
Information préalable du candidat sur les méthodes et techniques d’aide au recrutement	Ça se dit dans l’offre ou dans l’accusé de réception
Information préalable du salarié sur les dispositifs de collecte le concernant	Aucun dispositif installé en silence
Consultation du comité social et économique avant l’introduction de nouvelles technologies	À anticiper très en amont, pas la veille
Pertinence et lien direct avec l’emploi de toute information demandée	Vaut aussi pour ce qu’un outil collecte

Ces obligations existaient avant l’IA et ne dépendent pas d’elle. Elles s’appliquent avec la même force.

L’information des personnes concernées par une décision

Deuxième volet. Une personne soumise à une décision prise avec l’aide d’un système à haut risque doit en être informée, et elle peut demander des explications sur le rôle du système dans la décision.

Concrètement, pour un candidat écarté à l’issue d’un tri assisté : il peut demander comment sa candidature a été traitée, et vous devez pouvoir répondre.

C’est ici que le problème de l’explication, vu à la première fiche, devient très concret. Si votre seule réponse est « l’outil l’a classée en bas », vous n’avez pas de réponse.

D’où la conséquence pratique la plus importante de cette fiche : gardez la trace de ce qu’un humain a regardé et décidé. Quels critères, appliqués par qui, à quel moment, avec quel résultat. C’est cette trace qui vous protège, et elle protège aussi le candidat.

Les questions à poser avant d’acheter

Elles tiennent sur une page, et un fournisseur sérieux y répond par écrit sans difficulté.

Posée ?	La question
☐	Votre système est-il classé à haut risque au sens du règlement européen ?
☐	Fournissez-vous la notice d’utilisation et la documentation prévues ?
☐	Sur quelles données le système a-t-il été construit ou entraîné ?
☐	Qu’avez-vous mesuré en matière d’écarts de traitement selon le sexe, l’âge, l’origine ? Pouvez-vous me le montrer ?
☐	Le système déduit-il des émotions, des traits de personnalité ou une motivation ?
☐	Quels journaux sont conservés, où, et pendant combien de temps ?
☐	Où sont hébergées les données des candidats, et qui y accède ?
☐	Que récupérons-nous si nous arrêtons ?
☐	Comment un candidat obtient-il une explication sur le traitement de sa candidature ?

Une réponse évasive à la quatrième ou à la cinquième vaut refus. Ces deux-là ne se négocient pas.

Et garde les réponses. En cas de contrôle ou de contentieux, la démonstration que vous avez posé les bonnes questions au bon moment compte.

Ce que tu peux faire dès demain, sans budget

Trois gestes qui ne coûtent rien et qui règlent l’essentiel du risque courant.

Écrire noir sur blanc que le tri de candidatures ne se fait pas dans un assistant conversationnel grand public. C’est la pratique la plus répandue et la plus exposée, et elle disparaît avec une consigne claire.

Consigner, pour chaque recrutement, les critères retenus et qui a décidé quoi. Un tableau suffit.

Et vérifier qui, chez vous, sait répondre à un candidat qui demande comment sa candidature a été traitée. Si personne ne le sait, c’est le premier trou à boucher.

Vérifie ta compréhension

Question : votre direction a signé pour un outil de présélection, le déploiement est prévu dans trois semaines, et on te demande de préparer la communication aux salariés pour le jour du lancement. Que fais-tu ?

Réponse : tu signales que la séquence est inversée. L’information des représentants du personnel et des travailleurs concernés est préalable à la mise en service, et l’introduction d’une nouvelle technologie suppose une consultation du comité social et économique en amont. Faire l’annonce le jour du lancement expose l’entreprise et abîme le dialogue social pour rien. Propose le bon ordre : présentation du projet aux représentants avec les réponses du fournisseur, puis décision, puis information des salariés, puis déploiement. Trois semaines suffisent si on s’y met tout de suite.

Le module suivant entre dans le recrutement, en commençant par l’offre d’emploi.

Une formationBaxIA