Zum Inhalt springen
KI sicher im Alltag nutzen Ein Kurs von David Mirga · Center for AI and Ethics Übersicht
← Zurück zur vorigen Lektion 1.9 (hier klicken)

Lektion 11 von 39

Teil 1 · Verstehen und erste Erfolge

1.10 Warum die KI manchmal etwas erfindet (Halluzinationen)

Nachlesen – gut zu wissen, aber nichts zum Auswendiglernen

Das ist wahrscheinlich das Wichtigste, was man über KI wissen muss.

Vergessen Sie niemals: Eine KI wie z. B. ChatGPT ist ein Vorhersagemodell.

Eine KI wie ChatGPT sagt Wort für Wort voraus, was am wahrscheinlichsten als Nächstes kommt. Das bedeutet:

Die KI schreibt, was wahrscheinlich passt – nicht unbedingt, was wirklich wahr ist.

Wie kommt das? Hier ist ein sehr anschauliches Beispiel: Stellen Sie sich ein Programm vor, das mit tausenden Fotos von Katzen und Hunden geübt hat. Zeigt man ihm ein neues Foto, sagt es, was am besten passt: „Katze” oder „Hund”. Jetzt zeigt man ihm ein Foto von einem Fuchs. Etwas anderes als Katze oder Hund hat es nie kennengelernt – also sagt es vermutlich trotzdem „Hund”, und zwar mit großer Sicherheit. Es hat nicht gelogen. Es hat die wahrscheinlichste Antwort genommen, die es kennt.

Mit der KI ist es ähnlich. Sie lernt aus riesigen Mengen an Beispielen – Texten, aber auch Bildern – und gibt dann das aus, was nach diesen Beispielen am wahrscheinlichsten passt.

Ein ausgedachtes Beispiel, damit Sie es sich vorstellen können: Jemand fragt: „Welche Bücher hat die österreichische Autorin Anna Berger geschrieben?” Diese Autorin gibt es nicht – wir haben sie uns ausgedacht. Die KI könnte trotzdem antworten: „Anna Berger schrieb Der Sommer am See (2011) und Stille Wege (2016).” Das klingt glaubwürdig. Aber die Autorin und ihre Bücher sind erfunden.

Manchmal kommt eine ehrliche Antwort, wie zum Beispiel: „Dazu finde ich nichts.“ Beides kommt vor. Welche Antwort Sie bekommen, wissen Sie vorher nicht – und der Antwort selbst sieht man es nicht an.

Heißt das, die KI lügt sonst? Nein, wir interpretieren manche Sachen nur als Lüge. Wenn die KI etwas erfindet, merkt sie es selbst nicht. Das ist wie bei jemandem, der Ihnen felsenfest einen Geburtstag nennt – und sich im Datum irrt. Er lügt nicht. Er weiß es einfach nicht besser.

Wenn wir hier sagen, die KI antworte „ehrlich“, meinen wir: Sie sagt, dass sie in dem Fall keine verlässliche Antwort hat.

Vieles, was die KI schreibt, stimmt – sonst wäre sie nicht so nützlich. Und die Anbieter arbeiten daran, dass Erfundenes seltener vorkommt. Ganz verschwunden ist es aber nicht. Behalten Sie deshalb im Hinterkopf: Eine Antwort kann erfunden sein. Bei Wichtigem schauen Sie nach – wie das geht, lernen Sie in Lektion 3.2.

🎓 KI-Fachwort für alle, die es genauer wissen wollen: Halluzination
So nennen Fachleute es, wenn die KI etwas erfindet und dabei ganz sicher klingt. Das Wort kommt von „halluzinieren” – also etwas sehen, das gar nicht da ist.

Warum sagt die KI nicht einfach „Weiß ich nicht”?
Im Grunde rät die KI immer: Sie nimmt das, was nach ihrem Training am wahrscheinlichsten passt. Bei Dingen, die in ihren Texten oft vorkommen, trifft sie damit meistens das Richtige – aber eine Garantie ist das nicht. Sie weiß es nicht besser und ist sich dessen auch nicht bewusst, dass eine falsche Information ausgeliefert wurde. Manche Modelle sagen inzwischen auch, wenn sie sich nicht sicher sind – verlassen können Sie sich darauf aber nicht.

Dazu kommt: Denken Sie an einen Test in der Schule, wo man Antworten ankreuzt. Wer rät, hat wenigstens eine Chance auf einen Punkt. Wer „Weiß ich nicht” ankreuzt, bekommt sicher keinen. Also lohnt sich Raten. Forscher der Firma OpenAI haben 2025 beschrieben, dass KI-Programme beim Testen lange genau so belohnt wurden – fürs Raten.

Nur weil die KI sicher klingt, stimmt es noch lange nicht.

❓ Kleiner Wissens-Check

Die KI antwortet sehr sicher. Was heißt das?

Klicken Sie auf die Antwort, die Sie für richtig halten.