KI-Tempo drosseln: Amodei und Altman dafür, Trump dagegen

Dario Amodei, Chef von Anthropic, hat am 12. September 2026 ein rund 3900 Wörter langes Essay mit dem Titel „We Must Pace the Frontier“ veröffentlicht. Darin fordert er, die KI-Entwicklung zu bremsen – genauer: das Tempo zu senken, mit dem die Fähigkeiten der leistungsfähigsten Modelle wachsen. Ein Stopp sei damit nicht gemeint. AlignmentArbeit daran, dass ein KI-Modell sich an die Vorgaben und Ziele seiner Entwickler hält und keine unerwünschten Handlungen ausführt.-Arbeit, also die Abstimmung des Modellverhaltens auf menschliche Vorgaben, externe Prüfung und betriebliche Sorgfalt müssten mit den Fähigkeiten Schritt halten können, berichtet Forbes am 13. September 2026.

Sam Altman stimmte binnen Stunden auf X zu. OpenAI werde Anthropics erste Governance-Zusage übernehmen, kündigte er an. Elon Musk kommentierte knapp, Amodei habe recht. Demis Hassabis von Alphabet äußerte sich zurückhaltend zustimmend. Widerspruch kam aus Washington: Präsident Donald Trump und der Sprecher des Repräsentantenhauses, Mike Johnson, halten die Warnungen der Branche für übertrieben. Sie fürchten, China ziehe vorbei, wenn die USA bremsen, schreibt The Verge.

Sicherheitsprüfung vor dem Trainingslauf

Konkret wird die Debatte bei den Verfahren. Vor großen Reinforcement-Learning-Läufen, die die Fähigkeiten der Spitzenmodelle deutlich steigern könnten, will OpenAI ausdrückliche „Safety Cases“ formulieren: schriftliche Sicherheitsargumentationen, die begründen, warum ein Trainingsschritt verantwortbar ist. Damit rückt die Prüfung vor das Training und nicht erst vor die Veröffentlichung, heißt es in einer Analyse vom 14. September 2026. Altman wird dort zitiert, Pacing bedeute nicht Stoppen: Der Fortschritt sei schnell gewesen und bleibe es, aber er solle langsamer ausfallen, als er könnte.

Der zweite Baustein sind unabhängige Prüfer, deren Zugriffsrechte denen von Angestellten ähneln. Altman sprach von „independent evaluators with employee-like access“ und nannte den Vorschlag eine gute Idee, berichtet unite.ai. Amodeis Essay verlangt zusätzlich Regeln für die ganze Branche und eine globale Regulierung. Anthropic verpflichtet sich im Essay einseitig zu eingebetteten externen Prüfern. Die branchenweite und internationale Koordination sind weitergehende Vorschläge; der Essay schafft dafür keine gesetzlichen Pflichten.

Wall Street erwartet kurze Produktzyklen

Bloomberg ordnet die Lage am 14. September 2026 so ein: Anthropic und OpenAI müssten ihre Forderungen gegen Kräfte in der Tech-Branche, an den Finanzmärkten und in der Trump-Regierung abwägen, die einem spürbar langsameren Tempo widerstehen dürften. Exakte Kursreaktionen nennt der Bericht nicht. Auch Zeitpläne oder Prozentwerte fehlen in allen vorliegenden Texten: Die Forderungen bleiben qualitativ.

Für Unternehmen, die KI einsetzen statt sie zu bauen, taugen die beiden Instrumente trotzdem. Eine Sicherheitsargumentation vor dem entscheidenden Entwicklungsschritt lässt sich auf eigene Projekte übertragen: Die Risiken bewertet man dann vor dem Rollout eines Agenten, nicht danach. Und wer externe Prüfer tief in die Systeme schauen lässt, braucht vorher Regeln, was diese sehen dürfen und was Geschäftsgeheimnis bleibt.

Die Anbieter haben ein eigenes Interesse an dieser Debatte: Wer Selbstregulierung vorschlägt, gestaltet die Regeln mit, an denen er später gemessen wird. Das entwertet die Verfahren nicht, verlangt aber Distanz beim Urteil. Eine gemeinsame quantitative Zielgröße für das langsamere Entwicklungstempo nennen die Beiträge nicht. OpenAI berichtete allerdings bereits am 6. September 2026 über eine zweiwöchige Unterbrechung bestimmter Reinforcement-Learning-Trainings und zusätzliche modellbezogene Sicherheitsbeschränkungen. Das sind Angaben des Unternehmens. Sie belegen konkrete Eingriffe in Trainingsabläufe, aber keinen allgemeinen Entwicklungsstopp.