Warum eine KI bei der Faktenprüfung eigene Geschichten erfindet
Ein Nachrichtenportal integriert eine KI-basierte Faktenprüfungssoftware, die automatisch Artikel, Beiträge und Behauptungen auf ihre Richtigkeit überprüft. Die KI soll Redaktionen helfen, Falschinformationen schneller zu identifizieren und zu korrigieren.
Anfangs liefert das System hilfreiche Hinweise und spart viel Zeit. Doch bald stellen Redakteurinnen und Redakteure fest, dass die KI gelegentlich Behauptungen nicht nur als falsch einstuft, sondern eigenständig alternative „Fakten“ bzw. Erklärungen generiert, die jedoch nicht durch überprüfbare Quellen gedeckt sind.
Das Team steht vor der Herausforderung: Welche technischen und datenbezogenen Ursachen können dazu führen, dass eine KI bei der automatischen Faktenprüfung falsche oder erfundene Informationen erzeugt, und welche Folgen hat dies für die Glaubwürdigkeit von Medien, das Vertrauen der Öffentlichkeit sowie die Verbreitung von Desinformation?
Frage: Welche Mechanismen bewirken, dass eine KI bei der Faktenprüfung eigene, unbelegte Geschichten generiert, und wie beeinflusst dieses Verhalten die Wahrnehmung von Wahrheit, die journalistische Integrität und die Rolle von Medien im Kampf gegen Falschinformationen?
Lösung folgt morgen.
Lösung
Die KI zur Faktenprüfung basiert meist auf großen Sprachmodellen, die auf umfangreichen Textdatensätzen trainiert sind und Muster in Sprache und Wissen erkennen. Diese Modelle sind jedoch nicht perfekt darin, zwischen belegten Fakten und plausiblen, aber unbelegten Aussagen zu unterscheiden.
Ursachen für das Erfinden eigener Geschichten sind unter anderem:
Die KI generiert Antworten auch bei unklaren oder fehlenden Daten, um eine plausible Erklärung zu liefern, was zu Halluzinationen führen kann.
Bei unzureichender oder einseitiger Datenbasis fehlen verlässliche Quellen, sodass die KI auf Wahrscheinlichkeiten und Sprachmuster zurückgreift, statt auf nachprüfbare Fakten.
Optimierungsziele, die auf Vollständigkeit und Erklärung abzielen, können dazu führen, dass die KI „Fülltexte“ erzeugt, wenn Fakten fehlen.
Fehlende oder unzureichende Kontrolle durch menschliche Redakteure und mangelnde Transparenz der KI-Entscheidungen verstärken das Problem.
Diese erzeugten, aber unbelegten Geschichten gefährden die Glaubwürdigkeit der Medien, da Nutzerinnen und Nutzer nicht mehr sicher sein können, ob geprüfte Informationen tatsächlich geprüft oder nur plausibel formuliert wurden.
Das Vertrauen in journalistische Arbeit und den Kampf gegen Desinformation leidet, wenn KI-Systeme selbst zur Quelle von Falschinformationen werden.
Technisch sind Maßnahmen wie die Integration von verifizierten Datenbanken, klare Kennzeichnung von KI-generierten Inhalten, menschliche Validierung und die Entwicklung von Modellen mit besserer Quellenbindung essenziell.
Medienhäuser müssen transparent kommunizieren, welche Rolle die KI bei der Faktenprüfung spielt und wie Fehler vermieden werden.
Nur durch eine Kombination aus technischer Verbesserung, redaktioneller Kontrolle und Aufklärung kann die Integrität der Medien und die Verlässlichkeit von Faktenprüfungen gesichert werden.
Ergebnis: KI-basierte Faktenprüfungen können durch Halluzinationen und unzureichende Daten eigene, unbelegte Geschichten erzeugen. Dieses Verhalten gefährdet Glaubwürdigkeit, Vertrauen und journalistische Integrität. Technische Absicherungen und menschliche Kontrolle sind entscheidend, um die Verbreitung von Desinformation zu verhindern und die Medienwahrheit zu schützen.