Californie : une IA ne pourra plus décider seule d’un licenciement

Le 30 septembre 2026, le gouverneur Gavin Newsom a signé en Californie le SB 947, appelé No Robo Bosses Act of 2026, selon le communiqué du sénateur Jerry McNerney, auteur du texte, qui résume son objectif : « No worker should ever be fired or disciplined by a robo boss ». La loi interdira à un employeur de s’en remettre exclusivement à un système automatisé pour licencier ou sanctionner un salarié.

La règle s’appliquera à partir du 1er juillet 2027. Un outil pourra encore contribuer à une décision disciplinaire ou de licenciement, mais une personne devra la corroborer lorsque son résultat en constitue la base principale. La signature et l’application de cette obligation correspondent donc à deux moments différents.

Un résultat automatisé ne suffit pas pour licencier

Le SB 947 distingue deux situations que résume mal la formule du « robot qui licencie ». Si un employeur se fonde uniquement sur la sortie d’un système automatisé pour licencier ou prendre une mesure disciplinaire, sa décision contreviendra à la nouvelle règle. Si cette sortie est la base principale de la décision, l’employeur doit charger une personne de corroborer la décision. L’intervention humaine est ainsi requise lorsque l’outil a le poids déterminant, même si un responsable participe déjà à la procédure.

La définition légale vise les processus informatiques issus notamment de l’apprentissage automatique, de la modélisation statistique, de l’analyse de données ou de l’intelligence artificielle. Leurs sorties peuvent être un score, une classification, une recommandation ou une conclusion qui aide à exercer un pouvoir d’appréciation, ou s’y substitue, et qui a une incidence importante sur une personne. Le champ du texte dépasse donc les seuls outils présentés commercialement comme de l’« IA ».

La corroboration peut utiliser les données recueillies ou exploitées pour produire le résultat automatisé, ou d’autres informations pertinentes. La loi cite les évaluations d’un supérieur, le dossier du salarié, son travail, l’avis de collègues et les entretiens avec des témoins, y compris des avis de clients en ligne lorsqu’ils sont pertinents. Elle ne commande pas que chaque élément de preuve provienne d’une source entièrement indépendante du système. Une simple approbation du score, sans élément qui le corrobore, ne répondrait donc pas à cette exigence.

Le texte règle aussi le cas où cette vérification échoue. Si la sortie du système ne peut être corroborée, ou si la personne chargée de l’examen estime qu’elle est inexacte, incomplète ou trompeuse, l’employeur ne peut pas l’utiliser pour prononcer le licenciement ou la sanction. Un résultat contestable ne devient donc pas utilisable du seul fait qu’un humain l’a consulté.

Une information écrite au moment de la décision

Le contrôle humain s’accompagne d’un droit à l’information pour le salarié concerné, dans le cas où l’employeur s’est principalement appuyé sur une sortie automatisée. Au moment de lui annoncer la mesure, l’employeur doit lui remettre une notification écrite, distincte et rédigée en termes simples. Elle doit employer la langue habituellement utilisée pour les communications avec les salariés et peut être transmise par courriel, lien ou autre moyen écrit facile à utiliser.

La notification doit préciser que le système a servi de base principale, qu’une personne a examiné la décision et corroboré son résultat. Elle doit fournir les coordonnées d’un interlocuteur humain pouvant donner des explications, ainsi que signaler le droit de demander une description des données personnelles utilisées par le système. Le salarié peut alors obtenir, à sa demande, une description intelligible et objective de ses propres données, sans recevoir nécessairement l’ensemble des données brutes ou des informations sur d’autres personnes. Les données personnelles de collègues, de clients et de tiers doivent être anonymisées dans cette réponse.

La loi interdit à l’employeur de pénaliser un salarié qui exerce ces droits, porte plainte ou coopère à une enquête. Son application relève du commissaire californien au travail ou d’un procureur public. Une violation peut entraîner une pénalité civile de 500 dollars par infraction. L’avis écrit ne remplace pas la corroboration humaine exigée pour la décision elle-même.

Une protection limitée aux relations de travail visées en Californie

Le dispositif s’adresse aux employeurs relevant du droit californien, y compris des organismes publics et certains prestataires de main-d’œuvre. Les obligations relatives au licenciement, à la discipline et à l’avis écrit se réfèrent au salarié au sens du texte. Elles ne couvrent pas automatiquement toute personne qui travaille sous contrat indépendant et n’instaurent aucune règle mondiale pour les entreprises utilisant les mêmes logiciels ailleurs.

Le périmètre des outils est également circonscrit. Une simple base de données, une calculatrice, un filtre antipourriel, un pare-feu ou un antivirus ne deviennent pas, par leur seule présence dans une entreprise, des systèmes de décision automatisée au sens du SB 947. En revanche, la loi prohibe aussi l’utilisation d’un tel système pour déduire un statut protégé du salarié ou pour prévoir l’exercice de ses droits et prendre contre lui une mesure défavorable.

Deux exceptions sont formulées de manière ciblée. Une convention collective peut écarter expressément ces dispositions si elle règle les conditions de travail requises et protège contre la gestion algorithmique. Certains usages nécessaires au respect d’une loi, d’un règlement ou d’un contrat fédéral contraignant dans l’aéronautique, la sécurité nationale, le secteur militaire, spatial ou de la défense sont aussi exemptés, uniquement pour les opérations concernées.

D’autres textes encadrent l’IA au travail

Le SB 947 a été signé dans un ensemble de mesures distinctes. L’Associated Press relève aussi l’interdiction de déduire l’état émotionnel d’un travailleur de données biométriques et l’obligation d’envoyer une information écrite lorsque l’IA est responsable d’un licenciement collectif. Ces mesures répondent à d’autres usages de la technologie ; le contrôle d’une sanction individuelle et l’information sur un licenciement collectif sont des obligations différentes.

Pour les salariés visés par le SB 947, l’échéance concrète reste l’application de la loi : les décisions prises à partir de cette date devront intégrer la corroboration humaine et, lorsque le système aura été la base principale de la mesure, l’avis écrit prévu pour la personne concernée.

À lire aussi :

• Californie : une IA ne pourrait plus licencier sans contrôle humain
• Influence en Europe : 25 marchés, pas une seule règle de transparence
• Cloudflare Workers limite enfin un jeton CI/CD à une seule application