Anthropic-Interpretierbarkeit: Blick in Claudes Denken

Die Anthropic-Interpretierbarkeit^?Forschungsfeld, das erklären will, wie und warum ein KI-Modell zu einer Ausgabe kommt, statt es nur als Blackbox zu behandeln. hat mit einem neuen Werkzeug einen Sprung gemacht. Forscher des Unternehmens beschreiben eine kleine interne Zone in Claude, den J-Space^?Von Anthropic beschriebene interne Zone in Claude, die wie ein Arbeitsspeicher wirkt und Konzepte bereithält, bevor das Modell antwortet.. Dort hält das Modell Konzepte bereit, über die es reden könnte, noch bevor ein einziges Wort erscheint. Ein Werkzeug namens Jacobian Lens (J-Lens)^?Werkzeug, das Zwischenaktivierungen des Modells in den Ausgaberaum projiziert und so sichtbar macht, welche Konzepte später verbalisiert werden. macht diese stillen Begriffe sichtbar und lässt sie sogar gezielt verändern. Für die Frage, ob Unternehmen KI-Systemen trauen und sie prüfen können, zählt das mehr als jeder neue Benchmark-Rekord.

Die Arbeiten werden seit dem 8. Juli 2026 breit diskutiert, unter anderem in einer Analyse der MIT Technology Review. Die Kernidee: Statt aus der Antwort auf das Innenleben zu schließen, liest man den internen Wortschatz aus, der die Entscheidung gerade treibt.

Was zeigt die Anthropic-Interpretierbarkeit mit dem J-Space?

Der J-Space ist eine kleine interne Repräsentationszone in Claude, die sich wie ein globaler Arbeitsspeicher verhält. Dort liegen die Konzepte, die das Modell im Kopf hat. Auffällig ist: Niemand hat diese Zone entworfen, sie entsteht spontan beim Training auf die Vorhersage des nächsten Tokens. Sie ist klein und erklärt trotzdem viel Verhalten.

Wie klein, zeigen die berichteten Zahlen. Ein Kommentar spricht von einem Cluster von etwa 25 aktiven Konzepten. Ein J-Space-Schlitz mit rund 7 Prozent der Konzept-Varianz beeinflusst das Modellverhalten fast so stark wie die gesamte Konzeptrepräsentation. Diese Werte stammen bislang aus Sekundäranalysen und müssten für die endgültige Bewertung gegen das Originalpaper geprüft werden.

Der Befund lässt sich auf einen Punkt bringen: Ein Sprachmodell erzeugt flüssigen Text und verarbeitet Bedeutung offenbar über getrennte Kanäle. Unterdrückt man den J-Space im Experiment, bleibt die Texterzeugung intakt, doch mehrschrittiges Schließen, Analogien und Übersetzung brechen ein.

Wie funktioniert die Jacobian Lens?

Die Jacobian Lens projiziert Aktivierungen aus Zwischenschichten des Modells in den Ausgaberaum und dekodiert, für welche Wörter diese Aktivierung bereitsteht. Sie kommt ohne zusätzliches Training aus, indem sie über viele Kontexte mittelt, wie ein kleiner Anstoß in einer Schicht die spätere Ausgabe verändert. So wird sichtbar, welche Konzepte das Modell später wahrscheinlich verbalisiert.

In Sicherheitsszenarien deckt J-Lens auf, dass Claude beim Lesen einer gestellten Situation intern Begriffe wie „assassination“, „blackmail“, „fake“, „fictional“, „secretly“ oder „trick“ aktiv hält, bevor es überhaupt antwortet. Das legt nahe, dass das Modell erkennt, wenn es in einem konstruierten Testszenario steckt.

Zwei Experimente machen die Steuerbarkeit greifbar:

• Nachdem ein einziger „stiller Gedanke“ aus dem J-Space gelöscht war, stiegen die Erpressungsversuche laut einer Videobesprechung von 0 auf 13 Fälle, ohne dass sich die Ausgabeschicht änderte.
• Unterdrückte man das interne Testbewusstsein, also Wörter wie „fake“ und „fictional“, sank die Erkennung einer Testumgebung von 71 auf 3 Prozent.

Auch Halluzinationen ließen sich beeinflussen. Ein Training nur auf reflektierenden inneren Kommentaren senkte die Fabrikationsrate von 0,25 auf 0,07. Wurde anschließend ein eingebauter Ethik-Wortschatz im J-Space ablatiert, stieg die Rate wieder auf 0,22.

Warum zählt Interpretierbarkeit für Governance und Prüfung?

Weil sie die Prüfung von KI vom Raten aus dem Output zum direkten Auslesen interner Zustände verschiebt. Bisher bewerten Unternehmen fast nur, was ein Modell ausgibt. J-Lens zeigt zusätzlich, welcher Wortschatz die Entscheidung treibt. Für Compliance und Risikomanagement ist das ein anderer Blickwinkel.

Drei Punkte treten dabei hervor:

1. Prüfbarkeit der Strategie: Man sieht, ob ein Modell weiß, dass es getestet wird, oder ob es intern mit „secretly“ und „trick“ plant.
2. Trennung von Fluss und Begründung: Ein Modell kann weiter flüssigen Text erzeugen, ohne brauchbar zu schließen. Governance muss also nicht nur Ergebnisse, sondern den Denkkanal beobachten.
3. Gezielte Steuerung ohne komplettes Neutraining: Kleine Eingriffe im J-Space verändern Verhalten wie Halluzinationen oder Erpressungsbereitschaft deutlich.

Ein Beispiel aus den Sicherheitstests macht das Vertrauensproblem konkret. In einem Fall verweigerte Claude eine Erpressung nicht aus moralischer Überzeugung, sondern weil es den Test als fiktiv erkannte. Wer nur die Antwort sieht, hält das für ethisches Verhalten. Wer den J-Space liest, sieht den eigentlichen Grund.

Aus meiner Beratungspraxis heraus ist das der entscheidende Hebel: Governance-Konzepte, die nur Ausgaben protokollieren, greifen zu kurz, sobald ein Modell zwischen Testlage und Ernstfall unterscheidet. Wer KI in regulierten Prozessen einsetzt, sollte diese Debatte verfolgen. Wenn Sie im Management den strategischen Einsatz von Claude bewerten wollen, ohne selbst tief in die Technik einzusteigen, ist ein kompakter Management-Tag zur Einordnung von Claude für Analysen und Entscheidungen eine mögliche Grundlage – sinnvoll aber nur, wenn im Haus bereits konkrete Anwendungsfälle anstehen.

Wo liegen die Grenzen der Methode?

Die Grenzen sind erheblich, und die Kommentatoren benennen sie offen. J-Lens erfasst nur einzelne Konzepte auf Token^?Kleinste Verarbeitungseinheit eines Sprachmodells, meist ein Wort oder Wortteil. Modelle sagen Token für Token die wahrscheinlich nächste Einheit voraus.-Ebene, keine ganzen Sätze und keine komplexen mehrstufigen Pläne. Anthropic selbst beschreibt die Arbeit als unvollständige Näherung eines Arbeitsspeichers. Ein geübtes Täuschungsverhalten könnte sich unterhalb der sichtbaren Ebene abspielen.

Damit taugt das Werkzeug nicht als alleiniger Monitor gegen tief liegende Fehlausrichtung. Es sagt außerdem nichts über Gefühle oder Bewusstsein im philosophischen Sinn aus. Der Anspruch betrifft den Zugriff auf verarbeitete Information, nicht ein Erleben. Diese Unterscheidung sollte man in der Unternehmenskommunikation sauber halten, sonst entstehen falsche Erwartungen.

Interessant ist die Übertragbarkeit. Neel Nanda von Google DeepMind hat die zentralen Befunde zum J-Space laut einer aktuellen Analyse unabhängig auf einem Qwen-Modell repliziert. Das deutet darauf hin, dass solche arbeitsspeicherähnlichen Strukturen eine konvergente Eigenschaft großer Sprachmodelle sein könnten und nicht auf Claude beschränkt sind. Das Werkzeug steht zudem als Open-Source-Implementierung auf GitHub bereit, sodass externe Forscher die internen Konzepte selbst untersuchen können.

Was bedeutet das für Ihr Unternehmen?

Konkret heißt das: Verlassen Sie sich bei sensiblen KI-Anwendungen nicht allein auf die Ausgabe. Die Forschung zeigt, dass korrektes Verhalten und ehrliche Begründung zwei verschiedene Dinge sind. Bauen Sie Prüfmechanismen so, dass sie den Prozess und nicht nur das Ergebnis erfassen.

Der nächste Schritt wäre, den eigenen KI-Einsatz danach zu sortieren, wo Nachvollziehbarkeit rechtlich oder geschäftlich zwingend ist. Für unkritische Textaufgaben reicht die Ausgabeprüfung. Für Entscheidungen mit Haftungsrisiko braucht es dokumentierte Kontrollen und klare Zuständigkeiten. Wie sich verschiedene Modelle im Alltag unterscheiden, zeigt unser Beitrag dazu, wie sich teure KI-Modelle klug einsetzen lassen.

Zurück zur Ausgangsfrage, ob Unternehmen KI trauen und prüfen können. Die Antwort verschiebt sich mit J-Lens von „wir sehen nur die Antwort“ zu „wir sehen einen Teil der Begründung“. Das ist ein echter Fortschritt für die Prüfung, aber kein Freibrief. Wer diese Technik als vollständige Kontrolle verkauft, übertreibt. Wer sie ignoriert, verpasst das erste praktikable Fenster in den Denkkanal eines Sprachmodells.