Wie sich Halluzinationen vermeiden lassen

Seit 15 Jahren existieren Systeme mit Künstlicher Intelligenz (KI), die dazu fähig sind, Inhalte, die ihnen vorgelegt werden, zu erkennen und zu bewerten. Seit November 2022 erobert allerdings eine zweite Art der KI die Welt und unsere Fantasie: die sogenannte Generative KI. Diese KI-Technologie ist nicht nur in der Lage, Inhalte zu erkennen und zu bewerten, sondern erstmals auch praxistauglich neu zu generieren. Der KI-Textautomat ChatGPT ist das bekannteste Beispiel. Doch Generative KI ist bereits heute in der Lage, nicht nur Sprache, sondern auch eine Vielzahl anderer Formate zu erzeugen.

Da KI nun auch zur Erschaffung neuer Inhalte eingesetzt wird, ist sie natürlich entsprechend anfällig für Fehler in diesem Bereich. Der Begriff der „Halluzination“ hat sich in den vergangenen zwei Jahren etabliert, um Fehler der Generativen KI zu beschreiben. Dieser Begriff wird sehr uneinheitlich und vielfältig verwendet. Generell bezeichnet er die Erzeugung von Inhalten durch Generative-KI-Systeme, die zwar plausibel erscheinen, jedoch nicht auf den vorgegebenen Daten basieren, nicht den Anweisungen und Erwartungen der Nutzenden entsprechen oder objektiv falsch sind. Halluzinationen können - je nach Definition - neben faktisch falschen auch missverständliche, verzerrte oder unvollständige Inhalte bezeichnen, ebenso unangemessene, unfaire oder schlichtweg offensive Antworten. Hinzu kommt: Sprachgenerierende KI-Modelle können überzeugend klingende, aber ungenaue bis falsche Informationen wie erfundene Statistiken oder Daten erzeugen. Diese Modelle erstellen manchmal auch präzise erscheinende, aber nicht existierende Quellenangaben - ein Problem zum Beispiel in der Wissenschaft oder Rechtsberatung.

Das Halluzinieren von Generativer KI kann verschiedene Ursachen haben:

Intuitiv ausgedrückt, orientiert sich KI an ähnlichen Lösungen, die sie bereits gesehen hat, und bewertet mit einer Wahrscheinlichkeit, welche davon zu ihrer konkreten Aufgabe am ehesten passt. Denn die Systeme basieren nicht auf verlässlichen Regeln, sondern auf statistischen Mustern und Wahrscheinlichkeiten. Dies ist zum einen für das gewaltige Potenzial verantwortlich, das es uns erlaubt, KI-Systeme für kognitive Aufgaben wie Objekterkennung oder Sprachgenerierung zu bauen, die wir Menschen in Regeln nicht beschreiben können. Zum anderen führt dies dazu, dass die Antworten von KI-Systemen immer mit einer gewissen Wahrscheinlichkeit korrekt sind - beziehungsweise mit einer gewissen Wahrscheinlichkeit auch falsch sein können.

Dazu kommt, dass Sprachmodelle wie ChatGPT in ihrer Kernkompetenz eigentlich nicht dafür konzipiert sind, faktisch korrekte Antworten zu geben. Sie wurden entwickelt, um die Erzeugung menschlicher Sprache zu imitieren, indem sie mit riesigen Mengen an Texten trainiert wurden. Sobald die KI neue Inhalte generiert, versucht sie, basierend auf den gelernten Mustern, sprachlich korrekte und plausible Antworten zu produzieren. Ein Beispiel: Wenn eine KI beim Training Texte über Städte und ihre Sehenswürdigkeiten analysiert hat, könnte sie bei der Frage nach Touristenattraktionen einer bestimmten Stadt plausibel klingende, aber nicht existierende Gebäude oder Plätze erfinden. Denn das System kombiniert bekannte Elemente wie „typische Sehenswürdigkeiten“ mit dem spezifischen Kontext, hier der gefragten Stadt, ohne zu „wissen“, ob diese Kombination tatsächlich existiert. Ihre Aufgabe, dem oder der Nutzenden eine sprachlich plausible Antwort zu liefern, hat sie damit jedenfalls schon erfüllt.

Diese grundsätzliche Funktionsweise macht KI-Systeme zwar sehr kreativ und vielseitig einsetzbar. Das bedeutet aber auch, dass ihre Ergebnisse inhaltlich nie ganz zuverlässig sein können und überprüft werden müssen.

KI-Entwicklerinnen und -Entwickler erarbeiten derzeit verschiedene Strategien, um dieses Problem zu adressieren. Generative KI-Modelle weisen eine zunehmende Größe auf, was tendenziell zu einer Steigerung ihrer Leistungsfähigkeit führt. Es wird auch immer mehr Wert auf die bessere Qualität und Auswahl der Trainingsdaten gelegt - zum Beispiel bezüglich Ausgewogenheit, Umgangston, Korrektheit oder Vollständigkeit. Aktuell wird auch mit eigenen Fact-Checkern experimentiert. Sie könnten in Zukunft den Nutzenden einen Hinweis darauf geben, wie zuversichtlich die KI in Bezug auf die Korrektheit ihrer Antworten ist. Viele dieser Techniken haben die Antwortqualität bereits deutlich verbessert, ohne aber das Problem gänzlich in den Griff bekommen zu haben. Die neuen Fähigkeiten, Inhalte zu generieren, und die enorme Flexibilität, die KI lernt, gehen mit der Einschränkung einher, dass die erzeugten Inhalte immer nur mit einer gewissen Wahrscheinlichkeit korrekt sind.