Der Aussichtspunkt liegt auf knapp neunhundert Metern, der Akku bei achtzehn Prozent, und ausgerechnet hier zeigt das Handy zwei Balken. Genug für eine Pause mit Blick ins Tal. Genug auch, um die Nachrichten nachzulesen, die sich seit dem Frühstück angesammelt haben.
Die erste Meldung handelt von drei jungen Männern am Mount Shasta in Kalifornien. Sie hatten ihre Tour mit Google Gemini geplant, Start um drei Uhr morgens, acht Stunden bis zum Gipfel und zurück, so hatte es die KI vorgerechnet. Am Gipfel standen sie erst gegen sieben Uhr abends. Zu wenig Proviant, zu wenig Wasser, genau das hatte ihnen die KI vorher empfohlen mitzunehmen. Aus der Tagestour wurde eine Nacht im Gebirge, ein verstauchtes Knie, ein Ausharren in einer steilen Schlucht, bis Rettungskräfte der US-Forstverwaltung die Gruppe am nächsten Morgen fanden. Der zuständige Sheriff kommentierte den Fall später trocken: KI-Routen könne man nutzen, aber nicht blind verorten.
Kurzer Schnitt zur zweiten Meldung. Ein 67-jähriger Landwirt in der chinesischen Provinz Anhui hatte einen Chatbot monatelang zu kleineren Fragen befragt, Düngermengen, Aussaattermine, meist mit brauchbarem Ergebnis. Dann fragte er nach einer Komplettlösung gegen Unkraut auf seinem Sesamfeld, zehn Hektar, gedacht für den Ausbringung per Drohne. Die KI empfahl unter anderem Fomesafen, ein Mittel, das gegen breitblättrige Unkräuter in Sojafeldern wirkt. Sesam zählt botanisch ebenfalls zu den Breitblättrigen. Am nächsten Tag lag das ganze Feld flach, Unkraut und Nutzpflanze gemeinsam. Schaden umgerechnet etwa achtzehntausend Euro.
Zwei Kontinente, zwei völlig verschiedene Vorhaben, Wandern hier, Ackerbau dort. Und doch dieselbe Bruchstelle. Beide hatten der Antwort geglaubt, weil sie klang, als wüsste da jemand Bescheid.
Es gibt noch einen dritten Fall, kleiner, aber genauso lehrreich. In Südtirol schlug eine KI Urlaubern eine Wanderroute vor, die über einen Gletscher führte, technisch harmlos formuliert, für unerfahrene Wanderer aber lebensgefährlich. Nur weil die Vermieterin der Unterkunft beim Blick auf die Karte stutzte und nachfragte, blieb es bei einem Schreck statt einem Unglück.
Woran liegt das, dass gleich drei so unterschiedliche Vorhaben an derselben Stelle scheitern? Nicht an Rechenfehlern, wie man sie von schlechter Software kennt, ein Komma an der falschen Stelle, ein Absturz, eine Fehlermeldung. Ein Sprachmodell hat keine Wiese vor Augen, keinen Gipfel, kein Feld. Es hat gelernt, aus gewaltigen Mengen Text das statistisch passende nächste Wort vorherzusagen. Wenn in unzähligen Agrarforen Fomesafen im selben Absatz wie „Unkraut“ steht, wird genau das zu einer plausiblen Antwort, unabhängig davon, ob am Ende Soja oder Sesam im Feld steht. Wenn in Wanderforen ein Aufstieg meistens in acht Stunden geschafft wird, wird genau diese Zahl ausgegeben, egal ob diese Gruppe, mit diesem Gepäck, bei dieser Kondition, an diesem Tag realistisch acht Stunden braucht. Die Antwort klingt kompetent. Sie war nur nie an dem Ort, den sie beschreibt.
Bei einem schlecht formulierten Satz merkt man sofort, dass etwas nicht stimmt. Bei einer glatten, selbstsicheren Handlungsempfehlung merkt man es erst, wenn das Feld schon verdorrt ist oder die Sonne schon untergegangen.
Die Vermieterin aus Südtirol ist eigentlich die ganze Lehre aus allen drei Geschichten. Nicht Technikfeindlichkeit. Nicht das Handy wieder wegpacken. Sondern jemand, der noch einmal draufschaut, bevor aus einer Empfehlung eine Handlung wird. Bei einer Wanderroute heißt das: aktuelle Wetterlage, lokale Warnungen, eine zweite, menschliche Quelle. Bei einem Pflanzenschutzmittel heißt das: das Sicherheitsdatenblatt, die tatsächliche Zulassung für genau diese Kultur, im Zweifel eine Fachberatung, die im Ernstfall auch haftet, wenn sie falsch liegt. Eine KI haftet für gar nichts. Sie hat schließlich auch nichts entschieden. Sie hat nur geantwortet.
Am Aussichtspunkt fällt mir auf, wie sehr sich das mit dem deckt, was ich sonst über Lernen denke. Eine KI ist gut darin, mir zu sagen, was normalerweise stimmt. Ob es heute, hier, für mich stimmt, das muss ich immer noch selbst prüfen, mit den Augen, mit der Erfahrung, mit einem zweiten Blick auf die Karte. Genau das ist der Teil, den kein Modell übernehmen kann, so gut seine Antworten auch klingen.
Ich stecke das Handy zurück in die Tasche, achtzehn Prozent, und laufe den letzten Kilometer nach dem markierten Weg. Nicht nach der App.
Quellen
- Schweizer Bauer (2026). KI-Empfehlung vernichtet gesamte Ernte. Fall des Landwirts aus Anhui, China, Fomesafen-Empfehlung auf Sesamfeld.
https://www.schweizerbauer.ch/artikel/pflanzen/pflanzenschutz/ki-empfehlung-vernichtet-gesamte-ernte - agrarheute (2026). Landwirt vertraut bei Unkrautbekämpfung auf KI – und verliert komplette Ernte. Einordnung zu Schadenshöhe (ca. 18.000 Euro) und fachlicher Bewertung.
https://www.agrarheute.com/management/recht/landwirt-vertraut-unkrautbekaempfung-ki-verliert-komplette-ernte-642260 - Focus (2026). „War ein folgenschwerer Fehler“: Wanderer fragen KI nach Route und Essen, Retter müssen ausrücken.
https://www.focus.de/reisen/war-ein-folgenschwerer-fehler-wanderer-fragen-ki-nach-route-und-essen-retter-muessen-ausruecken_161b6725-ae8f-48fa-9da6-c94c5c92195d.html - IT-Boltwise (2026). KI-Chatbot plant Wanderroute: Mount Shasta und ein Fall in Südtirol. Details zu Google-Gemini-Routenplanung, Rettungseinsatz und Sheriff-Statement, sowie Gletscherroute in Südtirol.
https://www.it-boltwise.de/ki-chatbot-plant-wanderroute-mount-shasta-und-ein-fall-in-suedtirol.html
