Eine aktuelle Studie von Forschenden der Carnegie Mellon University, des MIT und der Cornell University hat gezeigt, dass bereits siebenminütige Gespräche mit einem KI-Sprachmodell wie Google Gemini Verschwörungsglaube bei aktuellen Krisen reduzieren können. Dieser Effekt übertraf die Wirkung statischer Faktenblätter und hielt in Nachbefragungen Wochen später auch bei Überzeugungen bezüglich völlig anderer Ereignisse an.
Methodik der Untersuchung
Die Studie untersuchte die Wirksamkeit von Sprachmodellen in zwei Kontexten: nach einem Attentatsversuch auf Donald Trump im Juli 2024 und nach der Ermordung des rechtsextremen Aktivisten Charlie Kirk im September 2025. Beide Ereignisse fanden nach dem Trainingsstopp der verwendeten Modelle statt, sodass diese nicht auf internes Wissen zurückgreifen konnten. Die Forschenden rekrutierten US-Erwachsene über eine Umfrageplattform und filterten mithilfe von GPT-4o Teilnehmende heraus, die Verschwörungsglaube zu den jeweiligen Ereignissen äußerten. Für das Trump-Experiment wurden 472 Teilnehmende ausgewählt, für das Kirk-Experiment 1.035.
Die Teilnehmenden wurden nach Messung ihrer Ausgangsüberzeugungen zufällig einer von drei Gruppen zugeteilt:
- Eine Gruppe führte mindestens fünf Gesprächsrunden mit Google Gemini (Version 1.5 oder 2.5), wobei das Modell angewiesen war, Verschwörungsglaube durch evidenzbasierte Konversation zu reduzieren.
- Eine zweite Gruppe erhielt ein statisches Faktenblatt mit Quellenangaben.
- Die dritte Gruppe führte einen irrelevanten Kontroll-Chat über die Frage, ob Katzen oder Hunde bessere Begleiter sind.
Für die Konversationen wurde eine kuratierte Faktenbasis direkt in den System-Prompt des Modells integriert, aufgeteilt in bestätigte Fakten, bereits widerlegte Behauptungen und explizit als offen markierte Fragen. Im Kirk-Experiment war zusätzlich eine Websuche erlaubt, jedoch nur zur Überprüfung von Fakten.
Ergebnisse der Gespräche
Die Gespräche dauerten im Durchschnitt etwa sieben Minuten und führten in beiden Experimenten zu einer Reduzierung des Verschwörungsglaubens der Teilnehmenden, sowohl im Vergleich zur Kontrollgruppe als auch zum Faktenblatt. Auch die Zustimmung zu Aussagen über eine „Vertuschung oder Verschwörung“ sowie „versteckte oder nicht offengelegte Faktoren“ nahm ab.
Das Vertrauen in die offizielle Erklärung stieg im Trump-Experiment nicht an. Die Autoren vermuten, dass dies daran lag, dass zum Zeitpunkt der Studie keine klare offizielle Erklärung existierte. Im Kirk-Experiment, wo die Behörden bereits Details zum Täter veröffentlicht hatten, stieg das Vertrauen in die offizielle Erklärung im Vergleich zum Kontroll-Chat leicht an. Ein signifikanter Unterschied zum Faktenblatt war hierbei nicht feststellbar. Der Dialog im Kirk-Experiment hatte zudem keinen messbaren Effekt auf die Unterstützung politischer Gewalt.
Anpassung der Gesprächsstrategie
Das Sprachmodell passte sich den verfügbaren Beweisen an. Im Fall des Trump-Attentatsversuchs, bei dem wenig über Motiv oder Hintergrund des Täters bekannt war, nutzte das Modell seltener rationale Überzeugungsarbeit. Stattdessen räumte es die Grenzen des eigenen Wissens ein, mahnte zur Vorsicht bei vorschnellen Schlussfolgerungen, stellte sokratische Fragen zur Reflexion der eigenen Beweislage und verwies auf glaubwürdige Quellen.
Bei der Ermordung Kirks, wo mehr Informationen verfügbar waren, ähnelte der Ansatz stärker dem Vorgehen bei klassischen Verschwörungstheorien, mit stärkerem Fokus auf die gesellschaftlichen Schäden verschwörerischen Denkens.
Langfristige Effekte und Risiken
Die reduzierten Verschwörungsglauben übertrugen sich auch auf spätere Ereignisse. Zwei Monate nach dem ersten Trump-Attentatsversuch, bei einem weiteren Vorfall auf Trumps Anwesen, waren Teilnehmende des Debunking-Dialogs weniger geneigt zu glauben, dass die Wahrheit nur wenigen mächtigen Personen bekannt sein oder vor der Öffentlichkeit verborgen bleiben würde. Dieser Effekt zeigte sich auch bei allgemeinen Verschwörungsglauben, was auf eine Art „Prebunking“ hindeutet – eine Vorbeugung gegen zukünftige falsche Behauptungen, die ohne vorherige Warnung oder Exposition gegenüber abgeschwächter Fehlinformation erfolgte.
Die Autoren betonen, dass ihre Arbeit eine Fallstudie darstellt und es Krisen geben könnte, in denen der Ansatz scheitert oder in denen tatsächlich eine Verschwörung existiert. Sie weisen auch auf frühere Arbeiten hin, die zeigen, dass ähnliche Dialoge auch dazu genutzt werden können, Menschen von Verschwörungserzählungen zu überzeugen, was ein potenzielles Missbrauchsrisiko für neu aufkommende Verschwörungen darstellt. Für eine messbare Wirkung ist die Bereitschaft der Menschen, mit einem Sprachmodell über ihre Überzeugungen zu sprechen, eine Voraussetzung.
Ein früheres Experiment desselben Teams reduzierte den Glauben an etablierte Verschwörungstheorien durch Gespräche mit GPT-4 um etwa 20 Prozentpunkte, wobei die Effekte auch zwei Monate später noch messbar waren. Die Neuheit der aktuellen Studie liegt in der Anwendung auf frische Ereignisse, bei denen Faktenlage noch dünn war.
Eine Studie mit fast 77.000 Teilnehmenden untersuchte, warum Gespräche Faktenblätter übertreffen. Sprachmodelle im Dialog waren 41 bis 52 Prozent überzeugender als eine kurze Textnachricht, wobei das schiere Volumen der zitierten Behauptungen der entscheidende Faktor war und nicht ausgeklügelte Konversationstaktiken. Derselbe Mechanismus kann jedoch auch gegen Menschen eingesetzt werden, wie ein nicht autorisiertes Experiment der Universität Zürich auf Reddit zeigte.
Thema: Gemini. Quelle/Inspiration: The Decoder.