Contenu généré par IA : quand l’AI Act impose vraiment une étiquette

Non, tout contenu produit avec une IA ne doit pas automatiquement porter une étiquette visible. L’AI Act distingue le marquage technique des sorties synthétiques, l’information donnée lors d’une interaction avec une IA et la divulgation au public de certains deepfakes ou textes d’intérêt public.

Pour décider, il faut examiner successivement votre rôle, la fonction du système, la nature du contenu et l’existence d’un véritable contrôle éditorial. Le résultat peut être un marquage lisible par machine, une information visible ou audible, les deux, ou aucune obligation au titre de l’article 50.

1. Identifiez d’abord votre rôle

Le fournisseur développe un système d’IA, ou le fait développer, puis le commercialise ou le met en service sous son nom. Le déployeur utilise un système sous son autorité dans un cadre professionnel. Une entreprise peut cumuler ces rôles, notamment lorsqu’elle transforme un outil tiers et le propose sous sa propre marque.

Cette distinction détermine qui doit agir. Le texte officiel de l’article 50, applicable depuis le 2 août 2026, attribue au fournisseur la conception de l’information intégrée aux systèmes interactifs et le marquage technique des sorties synthétiques. Le déployeur doit, pour sa part, informer les personnes exposées à certains systèmes biométriques, aux deepfakes et à certains textes d’intérêt public.

2. Chatbot ou contenu synthétique : deux obligations différentes

Le fournisseur d’un chatbot, d’un agent vocal ou d’un autre système destiné à interagir directement avec une personne doit concevoir le service de façon à l’informer qu’elle échange avec une IA. Cette information peut être omise lorsque la nature artificielle de l’interlocuteur est évidente pour une personne raisonnablement informée et attentive, compte tenu du contexte.

Un autre régime s’applique aux systèmes qui génèrent ou manipulent du texte, des images, de l’audio ou de la vidéo. Le fournisseur doit rendre leurs sorties détectables comme artificielles au moyen d’un format lisible par machine. La solution doit être techniquement efficace, interopérable, robuste et fiable dans les limites de l’état de la technique.

Cette obligation technique ne couvre pas la simple assistance à une édition standard ni les opérations qui ne modifient pas substantiellement les données fournies ou leur sens. Une correction mineure peut donc rester hors de cette branche, contrairement à une génération ou à une transformation substantielle.

Enfin, le déployeur d’un système de reconnaissance des émotions ou de catégorisation biométrique doit informer les personnes qui y sont exposées. Il ne s’agit pas d’étiqueter un contenu, mais de signaler le fonctionnement du système concerné.

3. Vérifiez si l’image, le son ou la vidéo est un deepfake

Un deepfake est une image, un contenu audio ou une vidéo généré ou manipulé par IA qui ressemble à une personne, un objet, un lieu, une entité ou un événement existant et peut paraître à tort authentique ou véridique. La ressemblance, le message, le contexte de diffusion et le public prévisible doivent être appréciés ensemble.

Une imitation vocale crédible attribuant de faux propos à une personne réelle entre normalement dans cette catégorie. Une scène manifestement fantastique ou une retouche technique sans incidence notable sur l’authenticité perçue ne constitue pas nécessairement un deepfake.

Lorsqu’un déployeur diffuse professionnellement un deepfake, il doit indiquer que le contenu a été généré ou manipulé par IA. Le décryptage juridique de Stibbe précise que le marquage invisible destiné aux machines ne remplace pas cette divulgation perceptible par le public.

Pour une œuvre manifestement artistique, créative, satirique, fictive ou analogue, la divulgation reste obligatoire, mais sa présentation peut être adaptée afin de ne pas gêner l’exposition ou la jouissance de l’œuvre. L’exception porte donc sur la forme de l’avertissement, pas sur son existence.

4. Pour un texte, examinez sa finalité et le contrôle éditorial

Le déployeur doit divulguer l’usage de l’IA lorsque trois conditions sont réunies : le texte a été généré ou manipulé par un système d’IA, il est publié afin d’informer le public et il traite d’une question d’intérêt public. Une publication sur la politique, la santé publique, l’environnement, la sécurité des consommateurs ou une évolution économique susceptible d’alimenter le débat public peut relever de cette règle.

Une description commerciale, une fiction ou une synthèse privée destinée à un seul utilisateur n’entre pas automatiquement dans ce champ. La simple participation d’un outil génératif à la rédaction ne suffit donc pas : la finalité de la publication compte.

La divulgation n’est pas exigée si le texte a fait l’objet d’un examen humain ou d’un contrôle éditorial et si une personne physique ou morale assume la responsabilité éditoriale de sa publication. Une validation superficielle, une correction orthographique ou une approbation sans examen du fond ne permettent pas raisonnablement de s’appuyer sur cette exception.

Exemple conditionnel : un éditeur vérifie les faits et les sources d’un brouillon généré, le corrige et assume la décision de publication. L’exception peut alors s’appliquer. Si l’IA remanie ensuite le texte sans nouvelle vérification, il faut réexaminer la sortie finale.

5. Choisissez la forme de transparence correspondante

Le marquage lisible par machine incombe au fournisseur pour les sorties synthétiques visées. La divulgation perceptible informe directement les personnes exposées à un système ou à un contenu. Un deepfake peut donc nécessiter les deux : un marquage technique intégré par le fournisseur et un avertissement accessible au public ajouté par le déployeur.

L’information destinée aux personnes doit être claire, reconnaissable, accessible et fournie au plus tard lors de la première interaction ou exposition. Pour éviter une formule ambiguë, la mention doit indiquer que le contenu a été généré ou manipulé par une IA, plutôt que se limiter à une expression vague comme « contenu numérique ».

Cette transparence ne dispense pas de respecter les autres règles applicables. La FAQ de la CNIL sur l’IA générative rappelle notamment que les organismes doivent aussi examiner la protection des données, la sécurité des informations fournies au système et la qualité de ses sorties.

6. L’arbre de décision avant diffusion

1. Êtes-vous fournisseur ou déployeur ? Le fournisseur configure l’information et le marquage technique ; le déployeur évalue les obligations envers les personnes exposées.
2. Le système interagit-il directement avec des personnes ? Le fournisseur doit prévoir une information sur l’interaction avec une IA, sauf si ce fait est évident dans le contexte.
3. Le système génère-t-il ou manipule-t-il du texte, une image, du son ou une vidéo ? Le fournisseur doit rendre la sortie détectable par machine, sauf assistance à une édition standard ou absence de modification substantielle.
4. Le contenu réaliste peut-il être pris à tort pour un élément authentique ? S’il s’agit d’un deepfake diffusé par un déployeur, ajoutez une divulgation perceptible. Pour une œuvre créative visée par l’exception, adaptez sa présentation sans la supprimer.
5. Le texte est-il publié pour informer le public sur une question d’intérêt public ? Ajoutez une divulgation, sauf si un examen humain ou un contrôle éditorial réel est associé à une responsabilité éditoriale identifiable.
6. Plusieurs branches s’appliquent-elles ? Cumulez les mesures nécessaires : le marquage technique du fournisseur ne remplace ni l’information sur un chatbot ni l’avertissement destiné au public.

À lire aussi:

• Divine s’ouvre à tous : six secondes par vidéo et pas de contenu généré par IA
• Muon Space vise 500 satellites par an après une levée de 250 millions
• SAFE ou BSA Air : le mauvais droit peut transformer une levée rapide en dette