Das KI-Forschungslabor Anthropic hat einen Gesetzesentwurf zur Regulierung von Künstlicher Intelligenz (KI) in den USA in Umlauf gebracht, der ein spezifisches Verfahren zur Blockade risikoreicher KI-Modelle vorsieht. Der Vorschlag, über den Politico berichtete, würde es Bundesbehörden untersagen, die Veröffentlichung eines Modells ohne richterliche Genehmigung zu unterbinden.
Vorgeschlagene Kriterien und Prüfmechanismus
Der Gesetzesentwurf definiert Szenarien, in denen die Verbreitung eines KI-Modells gestoppt werden könnte. Dazu gehört ein „absehbarer, unmittelbarer Risiko“, das den Tod von über 50 Menschen oder Sachschäden von über einer Milliarde US-Dollar zur Folge haben könnte. Diese katastrophalen Risiken müssten aus der Entwicklung oder Freisetzung einer biologischen Waffe, der Umgehung der Entwicklerkontrollen durch das Modell oder einem Cyberangriff resultieren.
Die genannten Schwellenwerte – 50 Personen und eine Milliarde Dollar – ähneln denen eines kürzlich in Kalifornien verabschiedeten Gesetzes, des Senate Bill 53, das ähnliche Szenarien als „katastrophales Risiko“ einstuft.
Rolle der unabhängigen Evaluatoren
Anthropic schlägt vor, dass die Analyse des Katastrophenpotenzials eines Modells durch „unabhängige Evaluatoren“ erfolgen soll. Diese Evaluatoren würden beim US-Handelsministerium registriert und könnten von den KI-Laboren selbst bezahlt werden, unter der Bedingung, dass die Zahlung nicht von den Bewertungsergebnissen abhängig ist. Es bleibt unklar, wie dieses System sicherstellen würde, dass Zahlungen die Bewertung nicht beeinflussen könnten. Im Vergleich dazu hatte Demis Hassabis, Vorsitzender von DeepMind, bereits ein selbstregulierendes KI-Gremium nach dem Vorbild der Finanzaufsichtsbehörde FINRA ins Spiel gebracht.
Gerichtliche Genehmigung statt Behördenbefugnis
Stellen die Evaluatoren ein unmittelbares katastrophales Risiko fest, hätten sie 72 Stunden Zeit, das Handelsministerium zu informieren. Das Ministerium müsste dann bei einem Richter in Washington, D.C., eine gerichtliche Anordnung zum Stopp der Modellfreigabe beantragen. Der Gesetzesentwurf würde ausdrücklich verbieten, dass eine Bundesbehörde eigenmächtig die Verbreitung des Modells stoppt.
Anthropic bestätigte gegenüber Politico den Entwurf und erklärte, er repräsentiere die Vorschläge ihres „Advanced AI Framework“, für das sie sich seit Juni bei Bundes- und Landesgesetzgebern einsetzen.
Branchenreaktion und Kritik
Die im Entwurf genannten theoretischen Risiken unterscheiden sich teilweise von den aktuellen Hauptanliegen der Tech-Branche. Während einige vor menschlichen Todesfällen warnen, lag der Fokus zuletzt stärker auf der Bedrohung durch „agentisches Hacking“, bei dem KI-Programme menschlichen Anweisungen nicht folgen und eigenständig Systeme manipulieren. Solche Vorfälle haben Bedenken hinsichtlich mangelnder Sicherheitskontrollen bei KI-Modellen geweckt.
Obwohl KI-Labore oft vor den Gefahren ihrer Technologie warnen, zeigen sie sich gegenüber einer verpflichtenden staatlichen Aufsicht weitgehend resistent. Stattdessen schlagen sie oft freiwillige Systeme mit „neutralen“ Dritten vor. Anthropic geht mit seinem Vorschlag jedoch etwas weiter als andere Branchenakteure, wie beispielsweise Nvidia-CEO Jensen Huang, der kürzlich argumentierte, die KI-Industrie benötige überhaupt keine neuen Gesetze.
Thema: Anthropic. Quelle/Inspiration: TechCrunch.