Eine aktuelle Studie mit 3.132 Teilnehmern hat ergeben, dass der bloße Zugang zu KI-generierten Antworten die Bereitschaft von Menschen, Unsicherheit auszudrücken und „Ich weiß nicht“ zu sagen, drastisch reduziert. In einem der Experimente sank diese Bereitschaft von 44 Prozent auf nur noch 3 Prozent, obwohl die bereitgestellten KI-Antworten fast immer falsch waren.
Methodik und erste Ergebnisse
Die Forscher führten fünf Experimente durch, um zu untersuchen, wie der Zugang zu einem Sprachmodell das Verhalten von Menschen im Umgang mit Unsicherheit beeinflusst. Als KI-Modell kam Step 3.5 Flash zum Einsatz. Die gestellten Fragen bezogen sich auf feine visuelle Details aus Filmen, wie etwa die Farbe einer Teamuniform. Solche Details sind in Online-Texten selten zu finden und daher anfällig für sogenannte KI-Halluzinationen – das Erfinden von nicht existierenden Informationen durch die KI.
In den ersten beiden Teilstudien (1a und 1b) konnten die Teilnehmer wählen, ob sie eine KI um Rat fragen wollten. In der Kontrollgruppe ohne KI-Zugang enthielten sich die Teilnehmer bei 36 beziehungsweise 44 Prozent der Fragen einer Antwort. Mit KI-Zugang fielen diese Zahlen auf 6 beziehungsweise 3 Prozent.
Vertrauen versus Korrektheit
Studie 2 untersuchte zusätzlich das Vertrauen der Teilnehmer. Ohne finanzielle Anreize erreichte das Vertrauen mit KI-Zugang 75,9 Punkte auf einer Skala von 100, verglichen mit 29,6 Punkten ohne KI. Das ist etwa zweieinhalb Mal höher. Gleichzeitig sank der Anteil korrekter Antworten von 27,6 Prozent auf 10,0 Prozent. Die Teilnehmer waren somit deutlich zuversichtlicher, lagen aber wesentlich häufiger falsch. Über alle Studien hinweg beantworteten Teilnehmer ohne Anreize und mit KI-Zugang 9,2 Prozent der Fragen korrekt, während es ohne KI 27,5 Prozent waren. Sie beantworteten zwar mehr Fragen mit KI, waren aber nur etwa ein Drittel so oft richtig.
Einfluss von Anreizen und automatischer Anzeige
In den Studien 2 bis 4 wurden finanzielle Anreize eingeführt: 10 Cent für jede richtige, 10 Cent Abzug für jede falsche Antwort und nichts für „Ich weiß nicht“. Obwohl die Anreize die Teilnehmer dazu brachten, seltener KI-Ratschläge einzuholen, zeigten sie keine statistisch signifikante Interaktion mit dem Effekt des KI-Zugangs auf die Bereitschaft zur Enthaltung. Die Anreize wirkten, waren aber nach Einschätzung der Forscher bescheiden.
In Studie 4 wurde die KI-Antwort den Teilnehmern automatisch angezeigt, ohne dass sie danach fragen mussten. Dies simuliert eine zunehmende Realität, in der Suchmaschinen KI-generierte Zusammenfassungen präsentieren. Der Effekt änderte sich kaum: Ohne Anreize sank die Enthaltungsbereitschaft von 35 Prozent ohne KI auf 1 Prozent mit automatisch angezeigten KI-Antworten. Mit Anreizen fiel sie von etwa 39 auf 7 Prozent.
Interpretation und weitere Forschung
Die Forscher interpretieren ihre Ergebnisse im Kontext der „Epistemia“, der Tendenz, KI-Antworten zu akzeptieren, weil sie überzeugend klingen, anstatt sie tatsächlich zu überprüfen. Ein Sprachmodell muss immer eine Antwort produzieren und pausiert nie, selbst wenn es etwas nicht weiß. Wenn Nutzer ihr Urteilsvermögen einem solchen System überlassen, könnten sie dessen mangelnde Zurückhaltung übernehmen, so die Autoren.
Diese Erkenntnisse stehen im Widerspruch zu bisherigen Forschungsergebnissen zur „Beratungsnutzung“, bei der Menschen externe Ratschläge normalerweise untergewichten. Die Studie deutet darauf hin, dass der Zugang zu KI sogar dazu führte, dass einige ursprünglich korrekte Antworten in Fehler umgewandelt wurden.
Angesichts der zunehmenden Verbreitung von KI-Antworten, die oft unaufgefordert erscheinen, könnte die Bereitschaft, „Ich weiß nicht“ zu sagen, zu den ersten Opfern der Mensch-KI-Interaktion gehören. Die Erhaltung des menschlichen Urteilsvermögens hängt möglicherweise weniger von der Verbesserung der Genauigkeit von KI-Modellen ab als vielmehr davon, dass Menschen weiterhin die Grenzen ihres eigenen Wissens erkennen und respektieren.
Zahlreiche Studien deuten darauf hin, dass die Nutzung von KI menschliches Urteilsvermögen und kognitive Fähigkeiten beeinflusst. Eine Studie der Swiss Business School mit 666 Teilnehmern zeigte eine starke negative Korrelation zwischen KI-Nutzung und kritischem Denken. Eine Microsoft-Studie kam zu ähnlichen Schlussfolgerungen und betonte, dass KI-Nutzung hohe Anforderungen an die Metakognition stellt – die Fähigkeit, das eigene Denken zu überwachen und zu steuern.
Thema: Technologie / KI allgemein. Quelle/Inspiration: The Decoder.