Das ist wahrscheinlich das Wichtigste, was man über KI wissen muss.
Vergessen Sie niemals: Eine KI wie z. B. ChatGPT ist ein Vorhersagemodell.
Eine KI wie ChatGPT sagt Wort für Wort voraus, was am wahrscheinlichsten als Nächstes kommt. Das bedeutet:
Die KI schreibt, was wahrscheinlich passt – nicht unbedingt, was wirklich wahr ist.
Wie kommt das? Hier ist ein sehr anschauliches Beispiel: Stellen Sie sich ein Programm vor, das mit tausenden Fotos von Katzen und Hunden geübt hat. Zeigt man ihm ein neues Foto, sagt es, was am besten passt: „Katze” oder „Hund”. Jetzt zeigt man ihm ein Foto von einem Fuchs. Etwas anderes als Katze oder Hund hat es nie kennengelernt – also sagt es vermutlich trotzdem „Hund”, und zwar mit großer Sicherheit. Es hat nicht gelogen. Es hat die wahrscheinlichste Antwort genommen, die es kennt.
Mit der KI ist es ähnlich. Sie lernt aus riesigen Mengen an Beispielen – Texten, aber auch Bildern – und gibt dann das aus, was nach diesen Beispielen am wahrscheinlichsten passt.
- Bei Dingen, die oft vorkommen, liegt sie meistens richtig – aber nicht immer. Die Hauptstadt von Österreich ist Wien – das steht unzählige Male in ihren Texten.
- Bei Dingen, die kaum vorkommen, hat sie wenig zum Lernen gehabt. Trotzdem schreibt sie etwas, das gut klingt – zum Beispiel eine Zahl, einen Buchtitel oder eine Internetadresse. Und das Falsche klingt genauso überzeugend wie das Richtige.
Ein ausgedachtes Beispiel, damit Sie es sich vorstellen können: Jemand fragt: „Welche Bücher hat die österreichische Autorin Anna Berger geschrieben?” Diese Autorin gibt es nicht – wir haben sie uns ausgedacht. Die KI könnte trotzdem antworten: „Anna Berger schrieb Der Sommer am See (2011) und Stille Wege (2016).” Das klingt glaubwürdig. Aber die Autorin und ihre Bücher sind erfunden.
Manchmal kommt eine ehrliche Antwort, wie zum Beispiel: „Dazu finde ich nichts.“ Beides kommt vor. Welche Antwort Sie bekommen, wissen Sie vorher nicht – und der Antwort selbst sieht man es nicht an.
Heißt das, die KI lügt sonst? Nein, wir interpretieren manche Sachen nur als Lüge. Wenn die KI etwas erfindet, merkt sie es selbst nicht. Das ist wie bei jemandem, der Ihnen felsenfest einen Geburtstag nennt – und sich im Datum irrt. Er lügt nicht. Er weiß es einfach nicht besser.
Wenn wir hier sagen, die KI antworte „ehrlich“, meinen wir: Sie sagt, dass sie in dem Fall keine verlässliche Antwort hat.
Vieles, was die KI schreibt, stimmt – sonst wäre sie nicht so nützlich. Und die Anbieter arbeiten daran, dass Erfundenes seltener vorkommt. Ganz verschwunden ist es aber nicht. Behalten Sie deshalb im Hinterkopf: Eine Antwort kann erfunden sein. Bei Wichtigem schauen Sie nach – wie das geht, lernen Sie in Lektion 3.2.
🎓 KI-Fachwort für alle, die es genauer wissen wollen: Halluzination
So nennen Fachleute es, wenn die KI etwas erfindet und dabei ganz sicher klingt. Das Wort kommt von „halluzinieren” – also etwas sehen, das gar nicht da ist.
Warum sagt die KI nicht einfach „Weiß ich nicht”?
Im Grunde rät die KI immer: Sie nimmt das, was nach ihrem Training am wahrscheinlichsten passt. Bei Dingen, die in ihren Texten oft vorkommen, trifft sie damit meistens das Richtige – aber eine Garantie ist das nicht. Sie weiß es nicht besser und ist sich dessen auch nicht bewusst, dass eine falsche Information ausgeliefert wurde. Manche Modelle sagen inzwischen auch, wenn sie sich nicht sicher sind – verlassen können Sie sich darauf aber nicht.
Dazu kommt: Denken Sie an einen Test in der Schule, wo man Antworten ankreuzt. Wer rät, hat wenigstens eine Chance auf einen Punkt. Wer „Weiß ich nicht” ankreuzt, bekommt sicher keinen. Also lohnt sich Raten. Forscher der Firma OpenAI haben 2025 beschrieben, dass KI-Programme beim Testen lange genau so belohnt wurden – fürs Raten.
Nur weil die KI sicher klingt, stimmt es noch lange nicht.