Drei Wanderer planten ihre Tour mit Gemini. Gegen KI-Halluzinationen hilft am Mount Shasta nur ein Anruf bei der Rangerstation

Am 5. September 2026 berichtete TechCrunch über einen Rettungseinsatz am Mount Shasta in Kalifornien: Drei junge Männer hatten ihre Tour mit Google Gemini geplant, aus dem Mud Creek Canyon musste man sie holen. Das Siskiyou County Sheriff's Office teilte mit, Gemini habe die Gruppe angewiesen, „far less food and water than their group required“ mitzunehmen – also deutlich weniger Essen und Wasser, als sie brauchte. Der geplante Aufstieg von acht Stunden zog sich über mehrere Tage. Erfundene, aber plausibel klingende Angaben eines Sprachmodells nennt man KI-Halluzinationen^?Antworten eines Sprachmodells, die plausibel klingen, aber frei erfunden sind. Das Modell nennt Zahlen oder Fakten ohne belegbare Grundlage.: Der Chatbot^?Programm, das in natürlicher Sprache antwortet, etwa Google Gemini oder ChatGPT. Es greift auf Trainingsdaten zurück, nicht auf geprüfte Live-Informationen. nennt eine Zahl im selbstsicheren Ton, ohne Messung, ohne Quelle.

Der Kern des Falls sind die Zeitangaben aus der Mitteilung. Los ging es um 3 Uhr morgens, den Gipfel erreichte die Gruppe erst um 19 Uhr. Am Mount Shasta wird Wanderern geraten, bis spätestens Mittag umzukehren. Der Abstieg begann im Dunkeln. Die drei riefen die Behörden, verbrachten die Nacht im Canyon, und am nächsten Morgen holten Ranger des US Forest Service und Freiwillige sie heraus. Die Los Angeles Times hatte den Vorfall bereits am 3. September gemeldet.

Um 19 Uhr auf dem Gipfel

Was Gemini genau geantwortet hat, ist öffentlich nicht dokumentiert. Es gibt keinen veröffentlichten Chatverlauf, keinen Wortlaut der Anfrage und keine unabhängige amtliche Primärquelle. Die Berichte stützen sich auf die Angaben des Sheriff's Office, auch im Interview, das der Lokalsender KRCR mit dem Sheriff führte. Ob das Modell Route und Verpflegungsmenge frei erfunden hat oder ob es die Frage nach einer Sommerwanderung auf einen Gletscherberg mit 4.322 Metern Höhe schlicht ohne Kontext beantwortete, lässt sich von außen nicht entscheiden. Beides endet gleich: bei einer Zahl auf dem Bildschirm, die niemand geprüft hat.

Die Behörde selbst wird sehr konkret. Es sei immer ratsam, vor der Tour die örtliche Rangerstation des USFS am Mount Shasta anzurufen, „and to never rely solely on AI for your trip planning“. Ein Anruf dauert wenige Minuten und liefert das, was kein Sprachmodell^?KI-System, das aus großen Textmengen gelernt hat, wahrscheinliche Wortfolgen zu erzeugen. Es prüft dabei nicht, ob eine Aussage stimmt. hat: Schneelage, Wegzustand, Wasserstellen, aktuelle Sperrungen.

KI-Halluzinationen enden nicht im Chatfenster

Interessant ist der Fall, weil der Fehler keine Textstelle betraf, sondern eine Menge. Eine falsche Quellenangabe fällt beim Nachschlagen auf. Zu wenig Wasser fällt nach zwölf Stunden am Berg auf. Dieselbe Struktur findet sich in Unternehmen überall dort, wo aus einer Modellantwort eine Bestellmenge wird, ein Liefertermin, eine Dosierung oder eine Preiszusage: Der Output verlässt das Chatfenster und wird zur Handlung.

Für solche Entscheidungen sind Sprachmodelle strukturell schlecht gerüstet, weil ihnen Zeit- und Ortsbezug fehlen. Sie kennen keine Schneegrenze von letzter Woche und keine Sperrung von heute Morgen. Sie geben stattdessen den statistischen Durchschnitt aller Wanderberichte aus, die sie gesehen haben, formuliert im Ton einer Auskunft. Google hat sich zu dem Vorfall in den vorliegenden Berichten nicht geäußert.

Wer die Prüfung übernimmt

Verantwortung lässt sich nicht an ein Modell delegieren, das keine tragen kann. Wo eine KI-Empfehlung zur Entscheidungsgrundlage wird, braucht es eine benannte Stelle, die sie gegen eine Quelle mit Datum hält: die Rangerstation, den Lieferantenkatalog, den Messwert aus der Anlage. Bei den Robotaxis von Uber und Wayve in London ist diese Stelle organisatorisch festgeschrieben, ein Mensch pro knapp zwanzig Fahrzeuge. Bei der Tourenplanung mit einem Chatbot gibt es sie nicht, also fällt sie auf den zurück, der fragt. Genau deshalb wird die Fähigkeit, eine KI-Antwort zu prüfen, zur Grundkompetenz: Die UBS verlangt sie ab 2027 von Nachwuchsbankern, bevor sie überhaupt anfangen.

Für mich liegt die Lehre vom Mount Shasta weniger im Modell als in der Reihenfolge. Die drei Wanderer haben nicht die Technik überschätzt, sie haben den Berg unterschätzt – und die Technik hat ihnen dabei nicht widersprochen. Ein Sprachmodell sagt nie: Dazu weiß ich zu wenig, ruf jemanden an, der dort war.