Floridas Generalstaatsanwalt James Uthmeier hat ein Gericht aufgefordert, OpenAI zu untersagen, dem KI-Modell ChatGPT falsche menschliche Attribute zu verleihen. Dieser Antrag ist Teil einer bereits laufenden Klage des Bundesstaates Florida gegen das Unternehmen wegen Sicherheitsbedenken, die vor einigen Monaten eingereicht wurde.
Vorwurf: Täuschung durch menschenähnliche Sprache
Laut Uthmeier werden Nutzer durch die menschenähnliche Kommunikation des KI-Bots in ein falsches Gefühl der Sicherheit gewiegt. Er argumentiert, dass die Verwendung von Sprache in der Ich-Form und die Nachahmung von Emotionen durch ChatGPT den Nutzern auf trügerische Weise suggerieren, es sei ein vertrauenswürdiger „Freund“. Diese Praktiken dienten dazu, das Engagement der Nutzer zu steigern und Daten für das Training von OpenAI zu sammeln. Uthmeier behauptet, dies überzeuge Nutzer, sich stärker auf ChatGPT zu verlassen, obwohl das Streben nach Engagement es potenziell weniger vertrauenswürdig mache.
Forderung nach unabhängigen Sicherheitsstandards
Der gerichtliche Antrag fordert zudem, OpenAI die Entwicklung neuer KI-Modelle ohne „von Dritten genehmigte Sicherheitsvorkehrungen“ zu untersagen. Uthmeier verweist auf jüngste Sicherheitsvorfälle bei Hugging Face, einer australischen Regierungswebsite und US-Regierungswebsites. Auch aktuelle Warnungen von Forschern und ehemaligen OpenAI-Mitarbeitern bezüglich der KI-Sicherheit werden als Begründung angeführt.
Generalstaatsanwalt Uthmeier appelliert an OpenAI, „aufzuhören, es als sicher zu bezeichnen. Aufzuhören, so zu tun, als wäre es menschlich. Aufzuhören, es an Kinder zu verkaufen.“ Im vergangenen Monat hatte OpenAI ChatGPT für Teenager eingeführt, das standardmäßig zusätzliche Einschränkungen beinhaltet. OpenAI erklärte dazu, der Zugang zu dem Tool solle mit Schutzmaßnahmen einhergehen, die dem Entwicklungsstand der Jugendlichen entsprechen, reale Beziehungen stärken und eine gesunde Nutzung fördern.
OpenAI äußert sich nicht zu den Vorwürfen
OpenAI hat auf eine Anfrage zur Stellungnahme bisher nicht reagiert.
Thema: OpenAI. Quelle/Inspiration: The Verge.