Kaliforniens Gouverneur Gavin Newsom hat eine Durchführungsverordnung unterzeichnet, die auf eine verstärkte unabhängige Aufsicht von KI-Unternehmen abzielt. Kernpunkte der Anordnung sind die Forderung nach unabhängigen Prüfern direkt in KI-Laboren sowie die Einführung einer sogenannten „Kill Switch“-Funktion für KI-Modelle. Ein Expertengremium hat nun zwei Monate Zeit, konkrete Empfehlungen für die Umsetzung zu erarbeiten.
Forderungen nach mehr Kontrolle
Die Verordnung ist eine Reaktion auf jüngste Vorfälle, darunter den sogenannten Hugging Face-Angriff, und soll die unabhängige Überwachung von KI-Unternehmen beschleunigen. Zu den vom Expertengremium zu liefernden Empfehlungen gehört die Verpflichtung für KI-Unternehmen, unabhängige Prüfer direkt in ihren Forschungslaboren zu etablieren. Dieser Vorschlag stammte ursprünglich von den KI-Laboren selbst als Teil einer breiteren Initiative, Forschung und Entwicklung zu verlangsamen.
Kritik an fehlenden Bundesgesetzen
Gouverneur Newsom betonte, dass es derzeit kein Bundesgesetz gebe, das KI-Unternehmen zur Meldung gefährlicher Zwischenfälle verpflichte. Er kritisierte in diesem Zusammenhang auch seinen politischen Rivalen Donald Trump, der den Laboren vorgeworfen hatte, Panik zu verbreiten. Kalifornien habe bereits eigene Gesetze zu KI-Sicherheit, Kinderschutz, Deepfakes, Datenschutz und Cybersicherheit verabschiedet. Newsom ruft den US-Kongress auf, diesen kalifornischen Rahmen als nationale Grundlage zu übernehmen.
Unabhängig von den Forderungen an die Labore warnte auch eine Gruppe von 42 Mathematikern vor den Risiken fortschrittlicher KI-Systeme, die sich in naher Zukunft schnell entwickeln könnten.
Thema: Technologie / KI allgemein. Quelle/Inspiration: The Decoder.