KI-Tempo drosseln: Amodei und Altman dafür, Trump dagegen

Dario Amodei, Chef von Anthropic, hat am 12. September 2026 ein rund 3900 Wörter langes Essay mit dem Titel „We Must Pace the Frontier“ veröffentlicht. Darin fordert er, die KI-Entwicklung zu bremsen – genauer: das Tempo zu senken, mit dem die Fähigkeiten der leistungsfähigsten Modelle wachsen. Ein Stopp sei damit nicht gemeint. Alignment^?Arbeit daran, dass ein KI-Modell sich an die Vorgaben und Ziele seiner Entwickler hält und keine unerwünschten Handlungen ausführt.-Arbeit, also die Abstimmung des Modellverhaltens auf menschliche Vorgaben, externe Prüfung und betriebliche Sorgfalt müssten mit den Fähigkeiten Schritt halten können, berichtet Forbes am 13. September 2026.

Sam Altman stimmte binnen Stunden auf X zu. OpenAI werde Anthropics erste Governance-Zusage übernehmen, kündigte er an. Elon Musk kommentierte knapp, Amodei habe recht. Demis Hassabis von Alphabet äußerte sich zurückhaltend zustimmend. Widerspruch kam aus Washington: Präsident Donald Trump und der Sprecher des Repräsentantenhauses, Mike Johnson, halten die Warnungen der Branche für übertrieben. Sie fürchten, China ziehe vorbei, wenn die USA bremsen, schreibt The Verge.

Sicherheitsprüfung vor dem Trainingslauf

Konkret wird die Debatte bei den Verfahren. Vor großen Reinforcement-Learning-Läufen, die die Fähigkeiten der Spitzenmodelle deutlich steigern könnten, will OpenAI ausdrückliche „Safety Cases“ formulieren: schriftliche Sicherheitsargumentationen, die begründen, warum ein Trainingsschritt verantwortbar ist. Damit rückt die Prüfung vor das Training und nicht erst vor die Veröffentlichung, heißt es in einer Analyse vom 14. September 2026. Altman wird dort zitiert, Pacing bedeute nicht Stoppen: Der Fortschritt sei schnell gewesen und bleibe es, aber er solle langsamer ausfallen, als er könnte.

Der zweite Baustein sind unabhängige Prüfer, deren Zugriffsrechte denen von Angestellten ähneln. Altman sprach von „independent evaluators with employee-like access“ und nannte den Vorschlag eine gute Idee, berichtet unite.ai. Amodeis Essay verlangt zusätzlich Regeln für die ganze Branche und eine globale Regulierung. Beschlossen ist davon nichts: Es sind Vorschläge, keine geltenden Regime.

Wall Street erwartet kurze Produktzyklen

Bloomberg ordnet die Lage am 14. September 2026 so ein: Anthropic und OpenAI müssten ihre Forderungen gegen Kräfte in der Tech-Branche, an den Finanzmärkten und in der Trump-Regierung abwägen, die einem spürbar langsameren Tempo widerstehen dürften. Exakte Kursreaktionen nennt der Bericht nicht. Auch Zeitpläne oder Prozentwerte fehlen in allen vorliegenden Texten: Die Forderungen bleiben qualitativ.

Für Unternehmen, die KI einsetzen statt sie zu bauen, taugen die beiden Instrumente trotzdem. Eine Sicherheitsargumentation vor dem entscheidenden Entwicklungsschritt lässt sich auf eigene Projekte übertragen: Die Risiken bewertet man dann vor dem Rollout eines Agenten, nicht danach. Und wer externe Prüfer tief in die Systeme schauen lässt, braucht vorher Regeln, was diese sehen dürfen und was Geschäftsgeheimnis bleibt.

Die Anbieter haben ein eigenes Interesse an dieser Debatte: Wer Selbstregulierung vorschlägt, gestaltet die Regeln mit, an denen er später gemessen wird. Das entwertet die Verfahren nicht, verlangt aber Distanz beim Urteil. Solange weder Anthropic noch OpenAI sagen, wie viel langsamer sie arbeiten wollen, bleibt Pacing eine Absichtserklärung. Prüfen lässt sie sich erst, wenn ein angekündigter Trainingslauf nachweislich verschoben wird.