KI-Halluzinationen erkennen: Fünf Prüfschritte in unter drei Minuten
Selbstbewusst formulierter Unsinn ist das größte Risiko im KI-Alltag. Fünf Prüfschritte reichen dagegen.
Ein Sprachmodell erzeugt wahrscheinliche Fortsetzungen, keine geprüften Fakten. Wenn Wissen fehlt, entsteht trotzdem ein flüssiger Satz, und genau der klingt oft besonders überzeugend. Diese Eigenschaft verschwindet nicht mit besseren Modellen, sie wird nur seltener sichtbar. Deshalb braucht jede berufliche Nutzung eine Prüfroutine, die unabhängig vom verwendeten Werkzeug funktioniert. Der NIST AI Risk Management Framework beschreibt genau diesen Umgang mit Unsicherheit als zentralen Baustein verantwortungsvoller KI-Nutzung.
Woran Sie Erfindungen erkennen
Typische Warnzeichen: präzise Zahlen ohne Quelle, Studien mit plausiblem Titel, aber ohne Autorenjahr, Gesetzesparagrafen, die zu gut passen, Zitate berühmter Personen, Namen von Ansprechpartnern, sehr runde Prozentwerte.
Je konkreter eine Angabe und je bequemer sie in Ihre Argumentation passt, desto strenger sollten Sie prüfen.
Die Fünf-Schritte-Prüfung
1. Zahlen selbst nachrechnen oder in der Primärquelle nachsehen. 2. Jede genannte Quelle öffnen und die Aussage im Text suchen. 3. Datum prüfen, ist die Information noch aktuell? 4. Eine Gegenprobe mit einem zweiten Werkzeug machen. 5. Bei Rechts-, Steuer- oder Gesundheitsthemen eine fachkundige Person einbeziehen.
Die ersten vier Schritte dauern zusammen selten mehr als drei Minuten.
Typische Fehler im Umgang mit Halluzinationen
Auch erfahrene Nutzerinnen und Nutzer tappen regelmäßig in dieselben Fallen:
- Selbstbewussten Ton mit Richtigkeit verwechseln, beides hat nichts miteinander zu tun.
- Quellenangaben nicht öffnen, obwohl sie mitgeliefert wurden.
- Nur bei „ungewöhnlichen“ Aussagen prüfen, dabei sind gerade plausible Aussagen am gefährlichsten.
- Einmal geprüfte Fakten dauerhaft für gültig halten, obwohl sich Rechtslagen und Statistiken ändern.
Wer diese vier Muster kennt, senkt das Risiko einer folgenschweren Übernahme erheblich.
Fallbeispiel: die erfundene Studie
In einer Projektpräsentation wurde ein Sprachmodell gebeten, Argumente für eine Investition zu liefern. Es nannte eine „Studie der Universität Wien aus 2023“ mit einer sehr passenden Prozentzahl. Die Studie existierte nicht, eine kurze Suche über Google Scholar ergab keinen Treffer. Ohne die Prüfung wäre die erfundene Zahl in eine Entscheidungsvorlage für die Geschäftsführung eingeflossen. Der Fall zeigt: Je überzeugender eine Angabe in die eigene These passt, desto wichtiger ist die Gegenprobe.
Prompts, die das Risiko senken
Wirksam sind Formulierungen wie: „Nennen Sie nur, was Sie belegen können, und markieren Sie Unsicheres ausdrücklich.“ Oder: „Wenn Informationen fehlen, stellen Sie Rückfragen, statt zu schätzen.“
Ebenfalls hilfreich: das benötigte Material selbst mitliefern. Ein Modell, das aus Ihrem Dokument antwortet, erfindet deutlich seltener. Hintergründe zur technischen Ursache liefert die Forschungsübersicht des Stanford Institute for Human-Centered AI.
Checkliste und wann Sie gar nicht erst fragen sollten
Kurze Checkliste vor jeder Übernahme:
- Quelle genannt? Dann öffnen.
- Zahl genannt? Dann nachrechnen oder gegenprüfen.
- Datum relevant? Dann Aktualität prüfen.
- Folgen bei Fehler hoch? Dann Fachperson einbeziehen.
Bei tagesaktuellen Ereignissen ohne Recherchefunktion, bei internen Vorgaben Ihres Hauses, bei individuellen Rechts- und Steuerfragen und bei allem, wo eine falsche Antwort teuer wird und niemand sie prüfen kann, sollten Sie ganz auf eine KI-Antwort verzichten. Das Werkzeug zu kennen heißt auch, seine Zuständigkeit zu kennen. Mehr zu einem sicheren Grundgerüst für den Alltag finden Sie im 30-Tage-Einstiegsplan.
Wenn Sie das strukturiert lernen möchten: die AI Works Academy führt Sie in klar abgegrenzten Modulen von den Grundlagen bis zu eigenen Workflows, mit Spickzetteln, Übungen und Vorlagen zum Mitnehmen.
Quellen & weiterführende Links
Häufige Fragen
+Werden neuere Modelle das Problem lösen?
Sie reduzieren die Häufigkeit, beseitigen sie aber nicht. Die Prüfroutine bleibt Teil professioneller Arbeit.
+Helfen Recherchefunktionen?
Deutlich, weil Antworten an Quellen gebunden werden. Die Qualität der Quellen müssen Sie dennoch beurteilen.
+Wie erkenne ich erfundene Studien?
Titel und Autor in einer Fachdatenbank oder bei Google Scholar suchen. Kein Treffer bedeutet in der Regel: existiert nicht.
+Sollte ich Kunden über KI-Nutzung informieren?
Bei Ergebnissen, die Sie fachlich verantworten, ist Transparenz über Ihr Vorgehen üblicherweise unproblematisch und schafft Vertrauen.
+Warum klingen erfundene Antworten oft so überzeugend?
Das Modell optimiert auf sprachliche Plausibilität, nicht auf Wahrheit. Ein flüssiger Satz ist deshalb kein Beleg für Richtigkeit.
+Reicht eine einmalige Prüfung am Anfang eines Projekts?
Nein, jede neue Zahl oder Quelle in jedem Durchlauf sollte erneut geprüft werden, da sich Antworten je nach Formulierung unterscheiden können.
◆ Bereit zum Anwenden?
Schluss mit Lesen, fangen Sie an zu sparen.
Die Gratis-Analyse zeigt Ihnen in 3 Minuten, wo KI in Ihrem Business diese Woche schon Wirkung zeigen kann.
