KI-Agenten im Unternehmen: Wenn der "Kollege" haftet

Wenn Sie einem KI-System einen Namen wie "Alex" geben und es als Kollegen behandeln, verschieben Sie damit die gefühlte Verantwortung, nicht die rechtliche. KI-Agenten im Unternehmen bleiben Werkzeuge, für deren Handeln die Geschäftsführung voll haftet. Die Vermenschlichung erhöht vielleicht die Akzeptanz im Team, kann aber verschleiern, wer bei Fehlern tatsächlich einstehen muss.

Das Fachmagazin heise online hat kürzlich eine Forscherin zitiert, die vor genau dieser Entwicklung warnt: Immer mehr Firmen behandeln KI-Agenten wie menschliche Mitarbeiter, während Fehler zunehmen und sich Zuständigkeiten verschieben (heise.de, "KI-Kollege Alex"). Der Punkt ist weniger technischer als organisatorischer Natur. Und er trifft einen wunden Nerv der Unternehmensführung.

Warum ist der "digitale Kollege" ein Governance-Problem?

Weil er eine Zuständigkeit vortäuscht, die es rechtlich nicht gibt. Ein KI-Agent kann nicht haften, entscheiden oder Verantwortung tragen. Sobald ein Team einen Fehler dem "Kollegen Alex" zuschreibt statt einer benannten Person, entsteht eine Lücke in der Kontrollkette, obwohl die Verantwortung juristisch unverändert beim Unternehmen liegt.

Diese Lücke ist mehr als ein sprachliches Detail. Juristische Leitfäden zur KI-Nutzung betonen, dass Unternehmen für Konversationen ihrer Chatbots und für KI-generierte Texte, Bilder oder Videos haften wie für eigene Inhalte (Wiley-VCH, "Wenn KI meets Recht"). Der Name des Systems ändert daran nichts. Was er ändert, ist die Wahrnehmung im Betrieb.

In der Praxis führt das zu einem stillen Effekt: Wo ein Mensch eine Entscheidung getroffen hätte, die dokumentiert und zugeordnet wird, sagt man nun "das war Alex". Die Aufsicht wird unsichtbar, obwohl das Gesetz sie ausdrücklich verlangt.

Was sagt das EU-KI-Gesetz zur Vermenschlichung?

Es verlangt Transparenz, und die steht dem "Kollege"-Narrativ entgegen. Für KI-Systeme mit begrenztem Risiko, die mit Personen interagieren, gilt bereits heute eine Informationspflicht: Nutzer müssen erkennen können, dass sie mit einer KI und nicht mit einem Menschen sprechen. Ein Agent mit Namen, Foto und Kollegenstatus kann diese Klarheit gezielt untergraben.

Die zentralen Regeln des KI-Gesetzes greifen bereits. Seit Februar 2025 sind bestimmte Praktiken als "unvertretbares Risiko" verboten, darunter Emotionserkennung am Arbeitsplatz, kognitive Verhaltensmanipulation und soziales Scoring (EU-Kommission, Digital Strategy). Ab August 2026 kommen zusätzliche Transparenzregeln: KI-generierte Inhalte müssen als solche erkennbar sein.

Für einen Überblick, wie sich der europäische Ansatz vom amerikanischen unterscheidet, lohnt der Blick auf unseren Vergleich der Regulierungswege in EU und USA. Kurz gesagt: In Europa steht die Nachvollziehbarkeit im Vordergrund, und genau die kollidiert mit einem KI-System, das sich als Mensch ausgibt.

Die Sanktionen sind nicht symbolisch. Laut Einordnung der IHK Köln können Verstöße gegen die KI-Verordnung Geldbußen von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes nach sich ziehen. Diese Zahl relativiert die Frage, ob ein netter Name das Onboarding erleichtert.

Wer haftet, wenn der KI-Agent einen Fehler macht?

Immer das Unternehmen, nie der Agent. Rechtlich gilt eine KI-Anwendung als Werkzeug, das die Firma einsetzt. Verschärfend kommt hinzu, dass sich die Beweislast gedreht hat: Im Streitfall muss das Unternehmen nachweisen, dass es einen Schaden nicht zu verantworten hat, etwa bei mangelnder Absicherung gegen Angriffe auf das KI-System.

Diese Beweislastregel macht die Vermenschlichung besonders heikel. Wenn niemand mehr weiß, wer den Agenten kontrolliert, wer seine Datenquellen prüft und wer bei Ausnahmen eingreift, fehlt im Ernstfall genau die Dokumentation, die vor Haftung schützt. Die Sicherheitsverantwortung wird faktisch unsichtbar, obwohl sie rechtlich beim Betreiber bleibt.

Wer hier vorbaut, sollte die technische Absicherung ernst nehmen. Wir haben zusammengetragen, welche Schritte zur KI-Sicherheit im Unternehmen jetzt anstehen. Aus meiner Beratungspraxis sehe ich, dass viele Firmen die Zugriffsrechte ihrer Agenten nicht sauber dokumentieren. Das rächt sich, sobald jemand fragt: Wer hat das freigegeben?

Wenn Sie KI-Agenten so aufsetzen wollen, dass Verantwortlichkeiten und Aufsicht von Anfang an geklärt sind, ist ein praxisorientierter Workshop zum Aufbau von KI-Teams und zur korrekten KI-Integration einen Blick wert, gerade wenn IT, Operations und Geschäftsführung gemeinsam an einem Prozess arbeiten. Er ersetzt keine Rechtsberatung, hilft aber, die organisatorischen Fragen früh zu strukturieren, bevor teure Nachbesserungen nötig werden.

Welche besonderen Risiken drohen im Personalbereich?

Im HR-Management sind die Hürden am höchsten. Die EU stuft KI-Anwendungen im Personalwesen als Hochrisiko-Systeme ein. Daran hängen Pflichten zu Datenqualität, Dokumentation, Transparenz, menschlicher Aufsicht und Robustheit gegen Angriffe. Ein als "HR-Kollege" präsentierter Agent verschleiert hier schnell, wer Entscheidungen trifft.

Die arbeitsrechtliche Perspektive ist eindeutig. Die Kanzlei Buse weist darauf hin, dass der Einsatz von KI im Personalbereich unmittelbar das Allgemeine Gleichbehandlungsgesetz berührt und dass Personalabteilungen die Wechselwirkung von Trainingsdaten, Algorithmen und möglichen Diskriminierungen im Blick behalten müssen (Buse Rechtsanwälte, "KI im HR-Management"). Empfohlen wird, den Einsatz digitaler Kollegen durch Betriebsvereinbarungen zu regeln, mit klaren Angaben zu Zweck, Entscheidungskriterien und Folgen.

Konkret bedeutet das für Ihr Unternehmen:

• Zuständigkeit benennen: Jeder KI-Agent braucht eine namentlich verantwortliche Person, keine erfundene Kollegenidentität.
• Betriebsrat einbeziehen: Bei Einführung und Nutzung im Personalbereich hat er erweiterte Mitbestimmungsrechte.
• Entscheidungswege offenlegen: Beschäftigte müssen nachvollziehen können, nach welcher Logik ein System sie bewertet.
• Menschliche Aufsicht sicherstellen: In sensiblen Bereichen darf die KI unterstützen, nicht abschließend entscheiden.

Die Plattform Lernende Systeme betont in ihrem Whitepaper zu KI und Recht, dass die abschließende Entscheidungsfindung durch KI etwa in der Justiz mit dem Grundgesetz unvereinbar ist. Übertragen auf Firmen heißt das: Ein "Kollege entscheidet" kaschiert eine Delegation, die rechtlich weiterhin einen menschlichen Verantwortlichen verlangt.

Wie sollten Unternehmen KI-Agenten stattdessen benennen und führen?

Nüchtern und funktional. Ein KI-Agent darf ein Werkzeug bleiben, das seine Aufgabe klar beschreibt, ohne eine Person zu imitieren. Das erfüllt die Transparenzpflicht, hält die Verantwortungskette sichtbar und verhindert, dass Teams Fehler an ein fiktives Wesen delegieren, das niemanden zur Rechenschaft zieht.

Mein Eindruck aus Projekten: Der Widerstand gegen sachliche Bezeichnungen kommt selten von der IT, sondern aus dem Marketing und der Teamkultur, wo ein Name den Umgang menschlicher wirken lässt. Dieser Effekt ist real und nicht per se schlecht. Er wird nur dort zum Problem, wo er die Zuordnung von Entscheidungen ersetzt statt ergänzt.

Der nächste Schritt wäre, für jeden produktiven Agenten drei Dinge schriftlich festzuhalten: welche Aufgabe er übernimmt, welche menschliche Rolle ihn überwacht und wo seine Grenze liegt. Das kostet wenig Zeit und schließt genau die Lücke, die der "digitale Kollege" sonst aufreißt.

Zurück zur Ausgangsfrage: Wird die Vermenschlichung von KI-Agenten im Unternehmen zum Governance-Problem? Ja, aber nicht wegen des Namens an sich, sondern weil er verdeckt, wer verantwortlich bleibt. Solange Sie die Zuständigkeit klar zuordnen, die Aufsicht dokumentieren und die Transparenzpflichten einhalten, ist ein freundlicher Umgangston kein Risiko. Gefährlich wird es erst, wenn "Alex" die Frage beantwortet, wer haftet. Die Antwort lautet immer: Sie.