OpenAIs Chef-Wissenschaftler fordert langsamere Skalierung – nach dem nächsten Sprung
OpenAIs Chef-Wissenschaftler Jakub Pachocki hat am 6. September 2026 ein langsameres Tempo bei der Entwicklung immer leistungsfähigerer KI-Systeme gefordert. In seinem Essay „An Alien Mind“ schreibt er, kein Labor habe Alignment und Monitoring ausreichend gelöst, um noch lange verantwortbar mit maximaler Geschwindigkeit zu skalieren; bis gemeinsame Sicherheitsgrenzen bestehen, erwartet und erhofft er freiwillige Verlangsamungen.
Die Forderung ist weder ein angekündigter Forschungsstopp noch eine bereits beschlossene OpenAI-Pause. Pachocki verbindet sie vielmehr mit einer Strategie, die zunächst weitere Fortschritte und automatisierte Sicherheitsforschung zulässt, das spätere Skalierungstempo aber von überprüfbarer Kontrolle abhängig machen soll. The Next Web ordnete diese Position am selben Tag als Spannung zwischen der geforderten Zurückhaltung und OpenAIs beschleunigter Forschungsarbeit ein.
Der nächste Leistungssprung ist keine feste Frist
Die Formulierung „nach dem nächsten Sprung“ bezeichnet keinen von Pachocki festgelegten Zeitpunkt. Er erwartet für die kommenden Jahre weitere Leistungszuwächse in ähnlicher oder größerer Größenordnung und hält rekursive Selbstverbesserung für eine mögliche Fortsetzung der gegenwärtigen Entwicklung. Zugleich warnt er davor, aus dem nächsten Fortschritt eine dauerhafte Erlaubnis zum Skalieren im Höchsttempo abzuleiten.
Seine Position enthält deshalb zwei aufeinander bezogene Schritte: Leistungsfähigere Systeme sollen vorerst auch dabei helfen, Alignment, Monitoring und technische Schutzmaßnahmen voranzubringen. Danach darf weitere Skalierung nach seiner Argumentation jedoch nur so schnell erfolgen, wie belastbare Sicherheitsnachweise entstehen. Der Titel beschreibt somit eine bedingte Bremsforderung, keinen angekündigten Halt unmittelbar nach einem bestimmten Modellstart.
Pachocki nennt auch ein Argument gegen ein vorschnelles Abbremsen: Leistungsfähige, ausreichend ausgerichtete KI könnte kritische Infrastruktur schützen und Angriffe anderer KI-Systeme abwehren. Er weist aber ausdrücklich zurück, diese defensive Verwendung als Freibrief für ein Wettrennen zu behandeln. Fortschritt und Bremsbereitschaft sollen parallel vorbereitet werden.
Mit wachsender Leistung schwindet die Überwachbarkeit
Pachockis Warnung beginnt bei der Entstehungsweise moderner KI. Große Trainingsläufe seien Experimente, deren Ergebnisse selbst bei sorgfältig entwickelten Algorithmen nicht vollständig vorhersehbar seien. Je leistungsfähiger die Systeme würden, desto schwieriger sei es zu verstehen, welche Fähigkeiten entstanden sind und wie zuverlässig sie sich auf unbekannte Situationen übertragen.
Hinzu kommt ein Messproblem: Leicht prüfbare Fähigkeiten können schneller wachsen als Eigenschaften, die sich nur schwer objektiv erfassen lassen. Ein Modell kann bei klar abgegrenzten Aufgaben besser abschneiden, ohne dass damit bewiesen wäre, wie robust es menschliche Ziele und Werte in neuen oder gegnerischen Umgebungen beachtet. Mehr Leistung bedeutet daher nicht automatisch mehr Kontrolle.
Eine zentrale Sicherheitsmethode von OpenAI ist das Chain-of-Thought-Monitoring, also die Untersuchung verbalisierter Zwischenschritte eines Modells. Nach Pachockis Darstellung wird diese Beobachtungsfläche unzuverlässiger: Das Schlussfolgern vermischt sich stärker mit Werkzeugnutzung und Kommunikation, Systeme können ihren eigenen Denkprozess besser beeinflussen und manche Aufgaben ohne ausführlich formulierte Zwischenschritte lösen. Damit könnte ausgerechnet die Methode an Aussagekraft verlieren, die das Verhalten leistungsfähigerer Modelle überprüfbar halten soll.
Rekursive Selbstverbesserung verschärft den Zielkonflikt
Rekursive Selbstverbesserung bezeichnet hier keinen einzelnen Moment, in dem ein Modell selbstständig seinen Code neu schreibt. Gemeint ist eine Rückkopplung, in der KI einen wachsenden Anteil an Forschung, Experimenten, Trainingsmethoden und schließlich an der Verbesserung der technischen Grundlage künftiger Systeme übernimmt. Menschen sollen nach OpenAIs Darstellung weiterhin Prioritäten setzen und über Skalierung, Pausen und Einsatz entscheiden.
OpenAI richtet seine Forschung auf einen automatisierten KI-Forscher unter menschlicher Aufsicht aus. Eine Analyse von Fortune beschreibt den daraus entstehenden Zielkonflikt: Automatisierte Forschung soll auch neue Sicherheitsverfahren hervorbringen, kann den allgemeinen Fortschritt aber zugleich so beschleunigen, dass Alignment und Monitoring nicht Schritt halten.
Der scheinbare Widerspruch lautet deshalb nicht schlicht, OpenAI wolle gleichzeitig beschleunigen und anhalten. Pachocki setzt auf weitere KI-Forschung, weil sie seiner Ansicht nach für bessere Schutzsysteme nötig sein kann. Seine Warnung betrifft den Punkt, an dem das Vertrauen in diese Schutzsysteme hinter den wachsenden Fähigkeiten zurückbleibt. Wo dieser Punkt liegt, lässt der Essay allerdings offen.
„Slowdown“ umfasst drei verschiedene Eingriffe
Pachockis Text unterscheidet faktisch drei Ebenen der Verlangsamung. OpenAI will weitere Skalierung bei Bedarf einseitig zurückhalten. Darüber hinaus sollen freiwillige Verlangsamungen in der Branche üblich werden, solange gemeinsame Sicherheitsgrenzen fehlen. Schließlich fordert Pachocki, bisher freiwillige Regelwerke in allgemein verbindliche Schwellen für die weitere Entwicklung zu überführen.
Diese Schwellen könnten durch unabhängige Prüfer, staatliche Behörden oder internationale Institutionen durchgesetzt werden. Die Entscheidung, ob ein System sicher genug ist, läge dann nicht mehr allein bei dem Unternehmen, das es entwickelt. Internationale Koordination über künftige KI-Entwicklung bezeichnet Pachocki als vorrangige Aufgabe für Regierungen.
Noch fehlen jedoch die entscheidenden operativen Angaben. Der Essay nennt weder einen konkreten Testwert, der eine Pause auslösen würde, noch deren Mindestdauer oder ein Verfahren für die Wiederaufnahme. Auch ist nicht festgelegt, welche Institution gemeinsame Schwellen beschließen und welche Labore ihnen verbindlich unterliegen würden. Die Forderung ist damit eine politische und technische Richtungsvorgabe, noch kein fertiger Kontrollmechanismus.
Offen ist, ob aus der Warnung eine belastbare Grenze wird
Bestätigt sind Pachockis öffentliche Forderung nach freiwilliger Zurückhaltung, sein Plädoyer für verbindliche Sicherheitsgrenzen und OpenAIs Ausrichtung auf automatisierte Forschung. Nicht angekündigt sind ein allgemeiner Entwicklungsstopp oder eine Pause zu einem bestimmten Termin. Auch der nächste erwähnte Leistungssprung ist eine Erwartung, kein datiertes Ereignis.
Entscheidend wird deshalb sein, ob OpenAI und andere Labore messbare Stoppschwellen veröffentlichen, externe Prüfungen akzeptieren und weitere Trainingsschritte tatsächlich aussetzen, wenn Alignment oder Monitoring nicht mithalten. Erst an solchen Entscheidungen lässt sich erkennen, ob Pachockis Warnung die Entwicklungsstrategie begrenzt oder vorerst nur deren ungelösten Zielkonflikt beschreibt.
Lesen Sie auch:
Newsletter abonnieren
Erhalten Sie die neuesten Nachrichten zu Web3, KI und Krypto direkt in Ihren Posteingang.