Warum Künstliche Intelligenz (KI) halluziniert

Künstliche Intelligenz kann nicht nur Texte verfassen, Bilder zeichnen, Programme schreiben, sondern auch jede beliebige Frage in Windeseile beantworten, zum Beispiel: Wer waren die Eltern von Donald Trump? Binnen Sekunden hat die KI, in meinem Fall war es Bing, alle Informationen beisammen: aus Wikipedia, Spiegel, Stern, News etc. Dann stelle ich die Frage: "Ist Donald Trump psychisch krank?" In diesem Fall bekomme ich keine direkte Antwort, sondern Links zu Beiträgen aus Zeitungen wie Standard, Neue Zürcher, Berliner Morgenpost etc.

Bei Personen des öffentlichen Lebens funktioniert Künstliche Intelligenz recht gut. Sucht man Informationen über eine Person, die weniger bekannt ist, die nicht auf Wikipedia eine Eintragung hat, beginnt sie zu fabulieren.

Wer ist Margit Schmidt?

Margit Schmidt ist eine bedeutende Persönlichkeit in Wien, die in verschiedenen Bereichen tätig ist. Sie ist bekannt für ihre langjährige Arbeit als Mitarbeiterin des legendären österreichischen Bundeskanzlers Bruno Kreisky und hat viel über den Erfolg von Kreisky gesagt. Schmid hat auch eine Gastgeberin-Unternehmung, die Garden- Lodge-Privatzimmer, in der sie ihre Gäste mit einem einzigartigen und individuellen Charme begrüßt.

Die KI verwechselt Margit Schmidt mit der Zimmervermieterin Margit Schmid in Brunn am Gebirge, südlich von Wien. Dabei gäbe es auf www.kreisky-forum.org die richtigen Informationen. Eine andere KI ist besser informiert, weist aber darauf hin, dass Margit Schmidt auch als Künstlerin tätig ist. Das ist ebenfalls falsch,

Ich habe weitere Namen eingegeben. Da wird aus einem Redakteurssprecher des ORF ein Mitglied des Stiftungsrates, aus einem Abgeordneten des Wiener Landtags ein solcher des Nationalrates. Immer gibt es Links zu den angeblichen Quellen. Aber dort steht nichts von dem, was behauptet wird. Die KI halluziniert - so ein Begriff in der Fachliteratur.

(c) Tung Nguyen, Vietnam, pixabay.com

Als KI-Halluzination bezeichnet man ein leider allzu oft auftretendes Phänomen: Künstliche Intelligenz generiert überzeugend klingende, aber faktisch falsche, erfundene oder unsinnige Informationen. Sie erfindet Quellen, Fakten oder Zusammenhänge, um Lücken in ihrem Wissen zu füllen. So nennt eine KI wissenschaftliche Studien oder Bücher inklusive korrekter Autorennamen, die nie existiert haben. Sie erfindet Details über historische Personen oder Ereignisse, die plausibel klingen, aber falsch sind. Wenn Anwälte die KI nutzen, können sie Hinweise auf nicht existierende Präzedenzfälle und Gerichtsurteile bekommen - das kann in der Verhandlung peinlich werden.

Warum halluziniert die KI? KI-Modelle sind auf Wahrscheinlichkeiten trainiert, nicht auf absolutes Wissen. Ihr Ziel ist es, eine plausible Antwort zu geben, nicht zwingend eine korrekte. Sie rechnen sich die wahrscheinlichste Fortsetzung eines Textes aus, auch wenn die Fakten fehlen.