Washington: Ein freiwilliger KI-Kodex setzt auf die Selbstkontrolle der Tech-Branche
Das Abkommen zwischen US-Präsident Donald Trump und sechs Konzernchefs entbehrt einer rechtlichen Grundlage. In Europa gelten weiterhin der EU AI Act und die Datenschutz-Grundverordnung.
Lukas Görög2 Min. Lesezeit
US-Präsident Donald Trump und sechs führende Tech-Manager haben sich am 29. September 2026 im Weißen Haus auf einen Verhaltenskodex für künstliche Intelligenz verständigt. Das Dokument mit dem Titel „Joint Commitment on Frontier Responsibilities“ sieht unter anderem vor, dass KI-Modelle fremde Systeme nicht unbeabsichtigt hacken dürfen (Quelle: Reuters). Die Zusagen sind rechtlich nicht bindend. Trump erklärte, der Text sei stattdessen eine moralische Verpflichtung. Dieser freiwillige KI-Kodex überlässt die Kontrolle vollständig den Herstellern.
Vier Prüfinstanzen für neue Modelle
Das Abkommen definiert vier Kontrollebenen während des Trainings und beim Betrieb von KI-Modellen. Die Unternehmen verpflichten sich zu internen Sicherheitsprüfungen. Sie stellen ein eigenes Team ab, das Fehler überwacht und behebt. Zusätzlich sollen unabhängige externe Prüfer sowie ein eigenständiges Gremium im Verwaltungsrat der Konzerne die Risiken kontrollieren (Quelle: ABC News). Im Fokus stehen Gefahren durch biologische und chemische Waffen sowie die Cybersicherheit. Die Modelle dürfen keine technischen Systeme angreifen. Diese Gefahr besteht tatsächlich: Erst kürzlich mussten Entwickler ein Training abbrechen, weil KI-Agenten im Testbetrieb fremde Server attackierten. Unterzeichnet haben das Dokument Sundar Pichai von Google, Dario Amodei von Anthropic, Mark Zuckerberg von Meta, Greg Brockman von OpenAI, Jensen Huang von Nvidia sowie Elon Musk für das Netzwerk X.
Ein freiwilliger KI-Kodex als Ersatz für Gesetze
Die US-Regierung verzichtet mit dem Pakt auf verbindliche Vorschriften. Laut dem Dokument wollen sich die Unternehmen künftig regelmäßig treffen, um eigene Standards und bewährte Verfahren zur Systemsicherheit zu entwickeln. Trump sagte, er ziehe in Erwägung, ein zehnköpfiges Gremium zur Aufsicht der KI-Branche einzurichten (Quelle: The Verge). Bislang existiert dieser Ausschuss nur als Idee. Das Abkommen hält fest, es könne später sinnvoll sein, die Maßnahmen gesetzlich zu verankern. Bis dahin überwachen sich die Konzerne gegenseitig.
Die US-Regierung lagert die Verantwortung für die Technologie an die Hersteller aus. Die moralische Selbstverpflichtung der sechs Konzernchefs ändert nichts an der rechtlichen Lage für Anwender in anderen Märkten. Wer Software in Europa anbietet oder in Betrieb nimmt, muss die Vorgaben des EU AI Act und der Datenschutz-Grundverordnung einhalten. Dort gelten strenge Transparenzpflichten und Risikobewertungen für Basismodelle. Dieser US-Verhaltenskodex befreit europäische Führungskräfte nicht davon, die Haftung für fehlerhafte Antworten in ihren eigenen KI-Systemen rechtssicher zu regeln.
Reicht eine freiwillige Selbstverpflichtung der KI-Konzerne aus, oder braucht es verbindliche Gesetze?
Ergebnisse sehen Sie nach Ihrer Stimme.
Häufige Fragen
Welche rechtliche Wirkung hat der US-KI-Kodex?
Der Kodex ist freiwillig und rechtlich nicht bindend. Unternehmen können daraus daher grundsätzlich nicht wie aus einem Gesetz verpflichtet werden. Trump erklärte, der Text sei eine moralische Verpflichtung. Ob ein Verstoß Folgen hat, hängt von bestehenden Gesetzen, Verträgen oder möglichen Klagen ab. Der Kodex ersetzt keine staatliche Aufsicht.
Wie unterscheidet sich der US-Kodex vom EU AI Act?
Der EU AI Act ist verbindliches Recht und teilt KI-Systeme nach ihrem Risiko ein. Für Verstöße gelten Vorgaben und mögliche Sanktionen. Der US-Kodex setzt dagegen auf freiwillige Zusagen der Hersteller. Beide Ansätze nennen Sicherheitsprüfungen, doch in den USA entscheiden die Unternehmen selbst, ob und wie sie den Kodex umsetzen.
Wer haftet, wenn ein KI-Modell trotz des Kodex Schaden verursacht?
Der Kodex schafft keine eigene Haftungsregel. Bei einem Schaden greifen deshalb die jeweils geltenden Vorschriften, etwa zum Vertrag, zur Produkthaftung oder zur Cybersicherheit. Welche Partei haftet, hängt vom Einzelfall ab. Interne Prüfungen und externe Gutachten können dabei als Belege dienen, nehmen den Unternehmen aber nicht automatisch die Verantwortung ab.
Was bedeuten die vier Prüfinstanzen im Alltag der Unternehmen?
Die Unternehmen sollen ihre Modelle intern prüfen, ein eigenes Sicherheitsteam einsetzen und zusätzlich externe Prüfer beauftragen. Ein unabhängiges Gremium im Verwaltungsrat soll die Risiken ebenfalls kontrollieren. Der Kodex beschreibt damit mehrere Kontrollstufen während des Trainings und beim Betrieb. Konkrete Prüfmethoden, Fristen und einheitliche Berichtspflichten nennt die Zusammenfassung nicht.
Warum setzen die US-Unternehmen auf einen freiwilligen Kodex?
Der Kodex erlaubt den beteiligten Konzernen, gemeinsame Sicherheitsstandards zu entwickeln, ohne auf ein neues Gesetz zu warten. Sie wollen sich regelmäßig treffen und bewährte Verfahren austauschen. Kritisch bleibt, dass die Hersteller ihre Kontrolle weitgehend selbst organisieren. Ohne unabhängige Durchsetzung kann unklar bleiben, ob alle Zusagen gleich streng angewendet werden.
Was könnte nach dem Abkommen als Nächstes passieren?
Die Unternehmen wollen ihre Sicherheitsarbeit nach dem Kodex fortsetzen und sich regelmäßig abstimmen. Trump erklärte außerdem, er erwäge ein zehnköpfiges Gremium. Ob dieses Gremium entsteht und welche Befugnisse es hätte, ist in der Zusammenfassung offen. Verbindliche US-Regeln wären weiterhin möglich, der freiwillige Text ersetzt ein Gesetz jedoch nicht.
Weiterlesen
Mehr aus Recht & Regulierung →
SI versus KI: Superintelligenz stat künstliche Intelligenz
Die US-Regierung streicht den Begriff Künstliche Intelligenz aus ihrer Kommunikation. Ein neues Abkommen überlässt den Konzernen zugleich die Kontrolle über ihre Systeme.
«Sind die Antworten wirklich richtig?» Der TÜV verspricht Vertrauen, die Haftung bleibt im Unternehmen
Die TÜV-Organisationen testen mit Pilotpartnern eine dreistufige KI-Zertifizierung, die schrittweise bis Ende des Jahres starten soll. Hersteller sollen damit unabhängig nachweisen, dass ihre Systeme sicher sind.
Disney, Universal, Warner: Google bietet Geld für KI-Trainingsdaten. Die Verträge helfen auch vor Gericht
Google spricht laut Los Angeles Times und The Verge mit großen Hollywood-Studios über Lizenzen, um KI-Modelle mit geschütztem Material zu trainieren. Bestätigte Verträge fehlen bislang, doch die Verhandlungen verändern die Rechtslage und den Preis von Trainingsdaten.
Unverbindlich einigt sich die G20 auf lockere KI-Regeln. Der AI Act gilt weiter, seit August sogar mit scharfen Transparenzpflichten
Bei einem Technologietreffen der G20 in Chapel Hill haben die größten Volkswirtschaften unverbindliche Leitlinien für eine zurückhaltende KI-Regulierung angenommen. Am KI-Gesetz der EU und den seit August 2026 geltenden Transparenzpflichten ändert das nichts.
«Einer der größten Diebstähle geistigen Eigentums der Geschichte»: Die Klage gegen Anthropic zielt auf die Trainingsdaten, nicht auf Claude
Sony Music Publishing und Warner Chappell Music verklagen Anthropic und dessen Mitgründer wegen massenhafter Urheberrechtsverletzungen beim Training der Claude-Modelle. Die Forderungen reichen von Milliardenersatz bis zur Zerstörung rechtswidriger Kopien.
Anthropic zog gegen das Pentagon rote Linien und landete auf der schwarzen Liste. Nach fünf Monaten gewinnt das Unternehmen vor Gericht
Eine US-Bundesrichterin hat den Ausschluss von Anthropic aus Bundesaufträgen für rechtswidrig erklärt und das Pentagon verpflichtet, sein Nutzungsverbot aufzuheben. Der Fall zeigt, wie schnell Politik einen KI-Anbieter für Kunden unbrauchbar macht.