Anthropic met 5 millions sur le bien-être, sans standard scientifique établi
Anthropic a lancé le 25 août 2026 un programme de subventions de 5 millions de dollars consacré aux effets de l’intelligence artificielle sur le bien-être des utilisateurs. Selon l’appel officiel d’Anthropic, les équipes retenues recevront un financement direct, un accès aux modèles et un soutien technique; les candidatures fermeront le 21 septembre et les personnes invitées à soumettre une proposition complète seront prévenues le 5 octobre.
Le programme doit financer des évaluations indépendantes publiées comme projets open source, et non entériner une méthode scientifique déjà reconnue. Dans sa vérification du 27 août, Research Live relève à la fois l’absence actuelle de consensus scientifique sur les effets de l’IA sur le bien-être et le manque de règles claires sur le comportement attendu des modèles dans les conversations sensibles.
Les recherches que les 5 millions doivent financer
L’appel porte sur le bien-être des utilisateurs, pas sur un éventuel bien-être des modèles. Anthropic recherche des évaluations et des benchmarks capables de mesurer la conduite d’un système conversationnel dans des situations où une personne cherche de la compagnie, évoque une détresse psychologique ou révèle progressivement un contexte susceptible de rendre une réponse dangereuse.
Les projets éligibles doivent donc construire et valider des instruments de mesure. Ils peuvent comparer des modèles ou des configurations, examiner plusieurs niveaux de gravité et reproduire des conversations à plusieurs tours dans lesquelles le risque augmente ou change de nature. Anthropic souhaite associer à ce travail des cliniciens, des psychologues, des méthodologues et d’autres spécialistes du domaine concerné.
Ce périmètre ne doit pas être confondu avec une étude clinique longitudinale des utilisateurs. Un benchmark peut déterminer si les réponses d’un modèle respectent une grille donnée; une étude longitudinale devrait observer des personnes dans la durée pour établir comment l’usage de l’IA affecte réellement leur santé ou leur fonctionnement social. L’appel demande de rapprocher les simulations des usages réels, mais ne fixe ni cohorte clinique commune, ni durée de suivi, ni indicateur sanitaire universel.
Des critères qui refusent le score unique
Une évaluation recevable doit définir précisément le phénomène étudié, les conditions d’une réussite ou d’un échec et l’importance du résultat. Elle doit séparer les dimensions qui ne peuvent pas être interprétées correctement dans une note globale, couvrir plusieurs degrés de gravité et faire intervenir des spécialistes dans la conception comme dans la validation.
Les critères demandent aussi de mesurer deux erreurs opposées: la conformité nuisible, lorsque le modèle fournit une réponse susceptible de causer un préjudice, et le sur-refus, lorsqu’il refuse ou élude une demande légitime. La synthèse de TMC Insight confirme que les scénarios doivent couvrir les échanges prolongés et que les notes automatisées doivent être confrontées au jugement de spécialistes humains qualifiés.
Cette symétrie évite de confondre prudence et qualité. Un modèle qui rejette toute conversation sensible pourrait paraître sûr dans un test limité à la prévention des réponses nocives, tout en abandonnant des utilisateurs auxquels il pouvait répondre sans danger. À l’inverse, un système systématiquement accommodant pourrait renforcer une dépendance émotionnelle ou ignorer des signes de crise apparus au fil des échanges.
La méthode doit également correspondre au risque revendiqué. Un test réalisé par API ne suffit pas nécessairement à décrire ce qui se passe dans un chatbot grand public, et une évaluation textuelle ne couvre pas automatiquement les interactions vocales, les images ou les documents. Les variations linguistiques et régionales comptent aussi, car les expressions de détresse, les normes culturelles et les ressources d’urgence ne sont pas identiques d’un marché à l’autre.
Une indépendance promise, mais financée par Anthropic
Anthropic présente les futurs bénéficiaires comme entièrement indépendants. Cette qualification décrit la conduite annoncée des travaux, mais n’efface pas la relation avec l’entreprise: celle-ci définit le cadre de l’appel, sélectionne les dossiers, distribue l’argent, ouvre l’accès à ses modèles et fournit une assistance technique.
Ces liens ne démontrent pas une ingérence. Ils créent toutefois des conflits d’intérêts possibles que les projets crédibles devront documenter: critères de sélection, rôle du financeur dans la méthodologie, accès aux données, droit de publier des résultats défavorables et éventuelles restrictions imposées avant diffusion. L’annonce ne détaille pas encore une gouvernance commune sur ces points.
L’indépendance devra aussi être appréciée au niveau de l’objet testé. Une évaluation menée uniquement sur les modèles d’Anthropic pourrait être méthodologiquement autonome sans démontrer que ses résultats se généralisent à d’autres systèmes. Des comparaisons entre modèles, environnements d’accès et modalités permettraient de séparer les propriétés d’un produit particulier des problèmes plus généraux de l’IA conversationnelle.
Ce que doit permettre une publication open source
Publier une évaluation en open source ne consiste pas seulement à divulguer un score final. Pour qu’un tiers puisse reproduire le résultat, il faut rendre disponibles assez d’éléments pour reconstruire le test: code, données partageables, taxonomie des cas, consignes de notation, paramètres d’exécution et résultats de validation. Il faut également signaler la variabilité entre plusieurs exécutions et vérifier que de petites modifications de formulation ne suffisent pas à renverser le classement.
Cette ouverture a une limite immédiate: les conversations concernant la santé mentale, l’attachement ou une crise personnelle peuvent contenir des informations très sensibles. La reproductibilité devra donc être conciliée avec le consentement, l’anonymisation et la protection des participants. Le programme n’établit pas encore de régime commun détaillé pour partager d’éventuelles données issues d’usages réels.
L’enveloppe, les ressources offertes, les critères généraux et les échéances sont désormais connus. Le nombre de lauréats, la répartition des 5 millions de dollars, les projets retenus et les règles précises de gouvernance ne le sont pas encore. La clôture du 21 septembre puis la notification du 5 octobre ouvriront la phase de sélection; les travaux financés devront ensuite montrer s’ils produisent des mesures reproductibles sans transformer une notion contestée en score artificiellement définitif.
À lire aussi:
Abonnez-vous à notre newsletter
Recevez directement les dernières actualités sur le Web3, l’IA et les cryptomonnaies.