Californie : une IA ne pourrait plus licencier sans contrôle humain
Le Parlement californien a définitivement approuvé le SB 947 le 31 août 2026. D’après le communiqué du sénateur Jerry McNerney, le Sénat a accepté les amendements de l’Assemblée par 28 voix contre 10, après un vote de 53 contre 14 dans cette dernière chambre, puis le texte a été envoyé au gouverneur Gavin Newsom.
Au 4 septembre, le SB 947 n’était donc pas encore une loi. S’il entre en vigueur, un employeur ne pourra pas laisser un système automatisé décider seul d’une sanction disciplinaire ou d’un licenciement : lorsque sa sortie constitue la base principale de la décision, une personne devra la corroborer et le salarié devra recevoir une notification écrite. Une synthèse de la California Special Districts Association confirme que le projet a été transmis au gouverneur le 31 août.
Le contrôle humain devrait corroborer la décision
Le texte officiel du SB 947 distingue le recours exclusif à un système automatisé de décision, ou ADS, de son utilisation comme fondement principal. Le premier serait interdit pour sanctionner ou licencier ; dans le second cas, l’employeur devrait charger une personne de corroborer la décision à partir des données ayant produit la sortie du système ou d’autres informations pertinentes.
Cette vérification pourrait notamment s’appuyer sur les évaluations de responsables, le dossier du personnel, le travail produit, les avis de collègues ou des entretiens avec des témoins, y compris des avis de clients publiés en ligne lorsqu’ils sont pertinents. Si la sortie ne peut pas être corroborée, ou si l’examen humain conclut qu’elle est inexacte, incomplète ou trompeuse, l’employeur ne pourrait pas l’utiliser pour prendre la mesure disciplinaire ou prononcer le licenciement.
Le parcours prévu irait ainsi d’un score, d’une classification, d’une recommandation ou d’une autre conclusion générée par l’ADS à une vérification humaine fondée sur des éléments professionnels. Ce n’est qu’après cette corroboration que l’employeur pourrait arrêter la décision et la communiquer au salarié.
Le salarié serait informé du rôle de l’ADS
Lorsque l’employeur se serait principalement appuyé sur un ADS, il devrait remettre une notification écrite au salarié au moment de lui annoncer la sanction ou le licenciement. Cette communication devrait être distincte, formulée clairement, rédigée dans la langue utilisée pour les échanges professionnels habituels et transmise par un moyen simple, tel qu’un courriel, un lien ou un autre format écrit.
La notification devrait indiquer que l’ADS a joué le rôle principal, qu’une personne a examiné la décision et corroboré sa sortie, ainsi que les coordonnées d’un interlocuteur humain pouvant fournir davantage d’informations. Elle devrait aussi mentionner le droit du salarié d’accéder à une description des données le concernant qui ont été utilisées par le système et rappeler l’interdiction des représailles.
Sur demande, l’employeur devrait fournir une description significative et objective de ces données. Les informations personnelles concernant des clients, d’autres salariés ou des tiers devraient être anonymisées. Ce droit resterait circonscrit aux données propres au salarié : le texte n’impose pas la remise du code du système, de son modèle complet, du nom de son fournisseur ou de ses évaluations d’impact.
La version votée vise un champ délimité
La protection centrale concerne les sanctions et les licenciements de salariés. Les travailleurs indépendants, la désactivation d’un compte de travailleur et l’interdiction générale de l’analyse prédictive du comportement, présentes dans des versions antérieures, ne figurent plus dans les dispositions finales. Le SB 947 ne constituerait donc pas une réglementation générale de tous les usages de l’intelligence artificielle dans la gestion du personnel.
Un ADS y est défini comme un processus informatique issu notamment de l’apprentissage automatique, de la modélisation statistique, de l’analyse de données ou de l’intelligence artificielle. Il doit produire un résultat simplifié qui assiste ou remplace un jugement humain et affecte matériellement une personne. Les filtres antipourriel, pare-feu, antivirus, outils de gestion des identités et des accès, calculatrices, bases de données et simples compilations de données sont exclus.
Le dispositif ne s’appliquerait pas aux parties couvertes par une convention collective qui y renonce explicitement et sans ambiguïté, règle notamment les salaires et les conditions de travail, et protège contre la gestion algorithmique. Une autre exception, limitée aux opérations concernées, couvre les usages nécessaires ou raisonnablement nécessaires au respect de certaines lois, réglementations ou obligations contractuelles fédérales liées à l’aviation, à la sécurité nationale, aux activités militaires, à l’espace ou à la défense.
La décision du gouverneur conditionne encore son application
Si le projet devient loi, le Labor Commissioner pourrait enquêter, ordonner certaines mesures provisoires, délivrer des citations ou engager une action civile ; un procureur public pourrait également agir. Une violation exposerait l’employeur à une pénalité civile de 500 dollars, et les représailles contre un salarié exerçant ses droits, déposant une plainte ou participant à une enquête seraient interdites. Le texte ne prévoit pas de droit d’action privé.
Les dispositions deviendraient opératoires le 1er juillet 2027, à condition que le SB 947 devienne loi. Au 4 septembre 2026, les votes parlementaires et le contenu du projet étaient acquis, mais la décision de Gavin Newsom ne l’était pas encore. Elle déterminera si ce parcours — sortie automatisée, corroboration humaine, décision puis notification écrite — devient une obligation légale en Californie.
À lire aussi:
Abonnez-vous à notre newsletter
Recevez directement les dernières actualités sur le Web3, l’IA et les cryptomonnaies.