Die Technologiebranche konzentriert ihre Anstrengungen im Bereich der Künstlichen Intelligenz (KI) vorwiegend auf die Abwehr katastrophaler Schäden, wie etwa die Verhinderung von Suizidaufrufen durch Chatbots. Dabei wird jedoch die weitreichende, subtile Erosion des Denkens, Lernens und der menschlichen Interaktion durch alltägliche Produktfunktionen oft übersehen.
Enger Fokus auf Katastrophen
In der Technologiepolitik wird Erfolg oft daran gemessen, ob ein KI-Unternehmen verspricht, dass sein Chatbot nicht zu Selbstmord ermutigt, oder ob eine Social-Media-Plattform den Kauf illegaler Substanzen für Kinder erschwert. Solche Schutzmaßnahmen sind zwar wichtig und hätten von Anfang an bestehen sollen, doch sie stellen lediglich eine niedrige Hürde dar. Unternehmen können diese Standards erfüllen, während sie weiterhin Produkte anbieten, die junge Menschen in simulierten Freundschaften gefangen halten oder in endlosen Feeds zum Scrollen animieren.
Die Debatte über Technologie wurde historisch oft von den schlimmsten potenziellen Auswirkungen eines Produkts bestimmt, wobei der schleichende, alltägliche Schaden kaum diskutiert wurde. Mit dem Übergang in eine Ära leistungsfähiger KI-Produkte sollte die Branche mehr leisten, als nur katastrophale Schäden zu verhindern. Es gilt, Maßnahmen zu ergreifen, die sicherstellen, dass KI-Produkte nicht die Art und Weise untergraben, wie Menschen denken, lernen und miteinander interagieren.
Alltägliche Auswirkungen und Abhängigkeiten
Die Folgen dieser subtilen Einflüsse bleiben oft unter dem Radar. Ein Jugendlicher, der eine ungesunde Bindung zu einem KI-Begleiter entwickelt, oder ein Student, der sich beim Verfassen von Texten vollständig auf einen Chatbot verlässt, finden selten Eingang in Gerichtsverfahren oder Schlagzeilen, es sei denn, es handelt sich um extreme Fälle. Eine Produktreihe kann alle engen Sicherheitsanforderungen erfüllen und dennoch die gesamte Kultur auf Weisen beeinträchtigen, die nicht sofort offensichtlich sind.
Eine auf Sicherheit beschränkte Definition von Erfolg ist für die Technologiebranche politisch opportun und wird von Unternehmen aktiv gefördert. Schritte zur Verhinderung spektakulärer Katastrophen sind geschäftsfördernd, da sie weniger Klagen und geringeren Regulierungsdruck bedeuten können. Die Auseinandersetzung mit den alltäglichen Folgen der Abhängigkeit würde hingegen erheblichere Auswirkungen auf die Gewinne haben. Sie könnte bedeuten, dass Unternehmen dazu angehalten werden, ihren Produkten mehr „Reibung“ hinzuzufügen oder Funktionen, die zu negativen Ergebnissen führen – wie süchtig machende Aufmerksamkeits-Hacking-Algorithmen – aktiv zu begrenzen.
Forschungsergebnisse untermauern diese Bedenken. MIT-Forscher stellten fest, dass junge Menschen, die ChatGPT zum Verfassen von Aufsätzen nutzten, während der Aufgabe eine schwächere Gehirnkonnektivität zeigten. Ihre Daten deuten darauf hin, dass eine sogenannte „kognitive Schuld“ (cognitive debt) auch nach Abschluss der Aufgabe bestehen blieb. Diese Erkenntnisse werfen Fragen auf, ob Technologie, die als leistungssteigernd vermarktet wird, tatsächlich die Gewohnheiten und Beziehungen untergräbt, die zur Entwicklung von Fähigkeiten beitragen.
Legislative Taktiken der Tech-Branche
Technologiegiganten haben stattdessen daran gearbeitet, Gesetzgebungsprozesse um jene Schäden herum zu gestalten, bei denen sie bereits unter direktem Druck stehen. So unterstützte Google in diesem Jahr in mehreren US-Bundesstaaten Gesetzesentwürfe zur Regulierung von KI-Chatbots. Diese Gesetzgebung schrieb grundlegende Schutzmaßnahmen gegen sexuelle Inhalte und die Förderung von Selbstverletzung vor – Maßnahmen, die Tech-Unternehmen ohnehin hätten etablieren sollen. Gleichzeitig enthielten die Entwürfe jedoch weitreichende Ausnahmen, die einige der populärsten Dienste hätten befreien können. Die Verabschiedung solcher Gesetze ermöglichte es den Gesetzgebern, einen „Sicherheitserfolg“ zu verbuchen, während Bemühungen um stärkere Gesetzgebung, die Kinder vor emotionaler Abhängigkeit von KI schützen sollte, scheiterten. Dieses Vorgehen zeigte sich beispielsweise in Bundesstaaten wie Nebraska, wo branchenbeeinflusste Gesetze auf Kosten umfassenderer Rechenschaftspflicht verabschiedet wurden.
Lehren aus sozialen Medien und Forderungen an KI
Eine ähnliche Entwicklung gab es bereits bei sozialen Medien. Weltweit verbringen Internetnutzer heute durchschnittlich über zwei Stunden täglich auf Social-Media-Plattformen – Zeit, die dem Alltag entzogen und Unternehmen überlassen wurde, deren Gewinne von dieser Verweildauer abhängen. Diese Algorithmen haben nicht nur weite Teile unserer Wachzeit in Anspruch genommen, sondern können auch zu Gewalt in verheerendem Ausmaß beitragen. Plattformen wurden etwa im Zusammenhang mit dem Völkermord an den Rohingya in Myanmar und Unruhen in Sri Lanka genannt. KI überträgt diese Logik nun auf Bereiche des Lebens, die soziale Medien nur aus der Distanz beeinflussen konnten. Ein Drittel der Teenager entscheidet sich heute dafür, ernste Angelegenheiten mit KI-Begleitern statt mit anderen Menschen zu besprechen.
Diese Entwicklung führt zu einer Welt perfekt „bereinigter“ Unterhaltung, in der Chatbots uns die Mühe des Denkens oder des Umgangs mit den Gefühlen anderer (oder den eigenen) abnehmen. Doch wer jemals versucht hat, etwas Lesenswertes zu schreiben oder eine beschädigte Freundschaft zu reparieren, weiß, wie viel dabei verloren geht. Urteilsvermögen entsteht durch Anstrengung und Reibung; der Umgang mit anderen Menschen lernt man durch die Konfrontation mit ihren eigenen Bedürfnissen und Meinungen.
Sicherheit sollte ein Minimum sein – darüber hinaus müssen jedoch deutlich höhere Anforderungen gestellt werden. Technologieunternehmen und Schulbezirke sollten zweifelsfrei nachweisen müssen, dass KI das Lernen und kritische Denken verbessert, bevor sie in Klassenzimmern fest etabliert wird. Unternehmen sollten daran gehindert werden, Begleiter zu entwickeln, die Bewusstsein vortäuschen oder Nutzern Liebe gestehen. Zudem sollte eine unabhängige Prüfung erfolgen, wie ihre Systeme Beziehungen und die Fähigkeit der Menschen zum eigenständigen Denken beeinflussen. Die Unternehmen, die ihre Produkte in nahezu jeden Teil des modernen Lebens eingefügt haben, tragen Verpflichtungen, die weit über die Vermeidung der nächsten negativen Schlagzeile hinausgehen.
Thema: Technologie / KI allgemein. Quelle/Inspiration: MIT Technology Review.