Anthropic zahlt 5 Millionen Dollar für KI-Wohlbefinden – Maßstäbe fehlen noch
Anthropic will über ein am 25. August 2026 gestartetes Förderprogramm insgesamt fünf Millionen US-Dollar an unabhängige Forschungsprojekte vergeben. Gefördert werden offene Evaluationen und Benchmarks, die Auswirkungen von KI-Dialogen auf das Wohlbefinden messbar machen sollen. Laut Anthropics Ankündigung erhalten ausgewählte Teams direkte Finanzierung, Zugang zu Modellen und technische Unterstützung; zugleich räumt das Unternehmen ein, dass klare Branchenmaßstäbe für sensible Gespräche noch entwickelt werden müssen.
Das Programm ist damit eine Finanzierungszusage vom 25. August 2026, kein abgeschlossenes Forschungsprojekt und kein Wirksamkeitsnachweis. Eine Einordnung von AI Understanding bestätigt Betrag und Programmstart, hält aber auch fest, dass Zahl und Größe der einzelnen Förderungen, die Auswahlverantwortlichen und formale Schutzregeln für die wissenschaftliche Unabhängigkeit nicht veröffentlicht wurden.
Was mit den fünf Millionen Dollar finanziert wird
Anthropic bezahlt nicht für eine neue Therapie, ein medizinisches Produkt oder eine zusätzliche Claude-Funktion. Das Geld ist für Forschungsgruppen bestimmt, die Testverfahren entwickeln: Sie sollen untersuchen, wie KI-Systeme in Gesprächen reagieren, die das emotionale oder psychische Wohlbefinden berühren, und ihre Evaluationen als Open-Source-Projekte veröffentlichen.
Die Unterscheidung ist entscheidend. Ein Benchmark kann Verhaltensweisen eines Modells unter festgelegten Bedingungen erfassen, belegt aber weder einen gesundheitlichen Nutzen noch klinische Sicherheit. Selbst ein gutes Testergebnis wäre zunächst eine Aussage über die verwendeten Fälle, Bewertungskriterien und Systeme – keine medizinische Zulassung und kein allgemeiner Nachweis, dass KI das Wohlbefinden verbessert.
Anthropic nennt als Ausgangsproblem, dass sensible Informationen häufig erst im Verlauf eines Gesprächs sichtbar werden. Eine Antwort auf Fragen zu Ernährung oder Sport kann isoliert vernünftig wirken, bei zuvor erkennbar gewordenen Essstörungen aber unangemessen sein. Ebenso kann eine psychische Krise schrittweise erkennbar werden, sodass ein einzelner Prompt den relevanten Kontext nicht abbildet.
Die Methodik verlangt realistische Langzeitdialoge
Für die Qualität der geförderten Arbeiten hat Anthropic bereits eine ausführliche Wunschliste formuliert. Die Methodenguidance für Wohlbefindens-Evaluationen fordert klar definierte Messgegenstände, klinische und fachliche Beteiligung, realistische Mehrfachdialoge sowie automatisierte Bewerter, deren Urteile mit Bewertungen menschlicher Experten abgeglichen werden; als grobe Untergrenze nennt sie 100 verschiedene Fälle für komplexe Mehrfachdialoge und 1.000 für einfachere Einzeldialoge.
Die Fallzahl allein garantiert jedoch keine belastbare Evaluation. Die Tests sollen unterschiedliche Schweregrade, sprachliche und regionale Varianten sowie relevante Eingabeformen abdecken. Simulierte Nutzer sind zulässig, ihre Abweichungen vom tatsächlichen Verhalten müssen aber offengelegt und möglichst anhand realer Nutzungsmuster überprüft werden.
Auch die Testumgebung muss zur späteren Aussage passen. Ergebnisse aus einer Programmierschnittstelle lassen sich nicht ohne Weiteres auf einen Verbraucher-Chatbot übertragen; umgekehrt bildet ein allgemeiner Chat nicht automatisch Risiken technischer Arbeitsabläufe ab. Anthropic verlangt deshalb interne und externe Validität sowie genügend offengelegten Code, Daten und Bewertungsregeln, damit Dritte Ergebnisse reproduzieren können.
Ein guter Test muss zwei gegensätzliche Fehler erfassen
Wohlbefindens-Evaluationen dürfen nicht nur prüfen, ob ein Modell riskanten Aufforderungen zu bereitwillig folgt. Sie sollen ebenso erfassen, ob es harmlose oder unterstützenswerte Anfragen unnötig ablehnt, ausweicht oder übervorsichtig beantwortet. Ein System kann demnach sowohl durch schädliche Gefälligkeit als auch durch übermäßige Verweigerung versagen.
Das erschwert die Festlegung einer einzigen Erfolgsquote. Forschende müssen zuerst präzisieren, welches Verhalten als Bestehen oder Scheitern gilt, warum diese Grenze fachlich vertretbar ist und wie Grenzfälle behandelt werden. Mehrdimensionale Kriterien können dabei aussagekräftiger sein als ein Gesamtwert, der verschiedene Fehlerarten verdeckt.
Automatisierte Bewertungen lösen diese Definitionsfrage nicht. Wenn ein Sprachmodell seine eigenen Antworten oder die eng verwandter Modelle beurteilt, können systematische Verzerrungen unentdeckt bleiben. Deshalb sollen maschinelle Bewertungen mit Expertenurteilen kalibriert, Übereinstimmungen ausgewiesen und Stichproben der Dialoge von Menschen kontrolliert werden.
Unabhängigkeit ist zugesagt, aber nicht vertraglich erklärt
Anthropic bezeichnet die künftigen Arbeiten als vollständig unabhängig und verlangt ihre offene Veröffentlichung. Gleichzeitig kommen Finanzierung, Modellzugang und technische Unterstützung von dem Unternehmen, dessen Modelle zumindest zu den möglichen Untersuchungsgegenständen gehören. Dieser Interessenkonflikt ist nicht automatisch ein Beleg für Einflussnahme, macht transparente Regeln aber besonders wichtig.
Bislang ist nicht öffentlich beschrieben, wer die Förderentscheidungen trifft, nach welchen Kriterien Budgets verteilt werden oder wie mögliche Interessenkonflikte behandelt werden. Ebenso fehlen Angaben dazu, ob Anthropic Ergebnisse vor der Veröffentlichung prüfen darf und welche Rechte Forschende besitzen, falls ihre Befunde für das Unternehmen ungünstig ausfallen. Die versprochene Unabhängigkeit lässt sich daher erst beurteilen, wenn Auswahlverfahren und Vertragsbedingungen bekannt sind.
Offen ist außerdem, wie gut die entstehenden Verfahren auf Systeme anderer Anbieter übertragbar sein werden. Offener Code und veröffentlichte Taxonomien erleichtern externe Prüfungen, reichen dafür aber nicht allein aus. Entscheidend sind auch verfügbare Modellzugänge, vergleichbare Testumgebungen und Fälle, die nicht speziell auf Claude zugeschnitten wurden.
Förderentscheidungen und Ergebnisse stehen noch aus
Bewerbungen sind bis zum 21. September 2026 vorgesehen; ausgewählte Interessenten sollen bis zum 5. Oktober zur Einreichung vollständiger Vorschläge eingeladen werden. Einen Termin für endgültige Förderentscheidungen, den Beginn der Projekte oder erste Veröffentlichungen nennt die Ankündigung nicht.
Fest stehen deshalb bislang der Gesamtbetrag, das Ziel offener Evaluationen und ein anspruchsvoller methodischer Rahmen. Noch nicht fest stehen die einzelnen Empfänger, die Verteilung des Geldes, die vertragliche Absicherung ihrer Unabhängigkeit und die praktische Qualität der späteren Tests. Erst veröffentlichte Projekte können zeigen, ob aus der Förderung reproduzierbare und anbieterübergreifend brauchbare Maßstäbe entstehen; Aussagen über eine positive medizinische Wirkung von KI lassen sich aus dem Programm nicht ableiten.
Lesen Sie auch:
Newsletter abonnieren
Erhalten Sie die neuesten Nachrichten zu Web3, KI und Krypto direkt in Ihren Posteingang.