Dario Amodei, CEO des führenden KI-Unternehmens Anthropic, hat in einem neuen Blogbeitrag konkrete Strategien zur Verlangsamung des Fortschritts im Bereich der Künstlichen Intelligenz (KI) dargelegt. Angesichts der jüngsten, drastisch beschleunigten Entwicklung von KI-Modellen und wachsender Sicherheitsbedenken, zu denen auch der OpenAI-HuggingFace-Hack zählt, sieht Amodei die Notwendigkeit, das Tempo der KI-Entwicklung zu drosseln. Diese Haltung wird von einigen Forschern geteilt; jüngst trat ein Forscher aus Anthropic zurück, da er die führenden KI-Unternehmen als „mit unserem Leben spielend“ bezeichnete.
Drei Säulen für eine kontrollierte KI-Entwicklung
Amodeis Vorschläge basieren auf drei Hauptstrategien:
- Eingebettete Prüfer von Drittorganisationen: Unternehmen wie Anthropic sollen unabhängigen Prüforganisationen, zum Beispiel METR, weitreichenden Zugang gewähren. Diese Prüfer sollen die Einhaltung von Sicherheitsstandards und Entwicklungslimits überwachen sowie sicherstellen, dass Sicherheitsvorfälle gemeldet werden. Anthropic verpflichtet sich unilateral zu diesem Schritt und fordert Regierungen auf, dies auch von anderen führenden KI-Unternehmen zu verlangen. Die Prüfer sollen vergleichbaren Zugang wie interne Risikobewertungsteams erhalten, inklusive Firmenausweisen, Arbeitsplätzen und Laptops. Amodei zieht hier Parallelen zu Aufsichtsbehörden, die bei Banken eingebettet sind.
- Koordination führender KI-Unternehmen in Demokratien: Amodei plädiert für eine Abstimmung zwischen den führenden KI-Unternehmen in demokratischen Ländern, um gemeinsame Sicherheitsstandards und Grenzen für unkontrollierten KI-Fortschritt festzulegen. Er räumt ein, dass Bedenken hinsichtlich Kartellrecht und der Animosität zwischen einigen CEOs bestehen könnten. Hier schlägt er eine Vermittlerrolle der US-Regierung vor, die Diskussionen ermöglichen und eine spezifische Ausnahme für sicherheitsrelevante Gespräche erteilen könnte. Die häufig geäußerte Sorge vor einer chinesischen Dominanz im KI-Bereich kontert Amodei mit dem Vorschlag, dass die US-Regierung den Verkauf leistungsstarker Chips und Halbleiterfertigungsanlagen an chinesische Unternehmen unterbinden und gegen Modell-Destillation vorgehen sollte, um den Vorsprung der USA über die nächsten drei bis fünf Jahre zu sichern.
- Globale Koordination: Als dritte Strategie schlägt Amodei eine Zusammenarbeit zwischen den Vereinigten Staaten, ihren Verbündeten und autoritären Regierungen, einschließlich China, vor. Ziel wäre es, bestimmte und offensichtlich gefährliche Anwendungen von KI zu verbieten, wie etwa die Nutzung von KI zur Produktion biologischer Waffen. Er erkennt jedoch an, dass die Möglichkeiten für eine solche Kooperation begrenzt sind.
Amodeis Perspektive und Kritik
Amodei betont, dass er weiterhin an das immense Potenzial von KI zur Verbesserung des menschlichen Lebens glaubt. Er sieht die aktuelle Skepsis gegenüber Technologieunternehmen als „Vertrauenskrise“ und argumentiert, dass ein besonnenes Vorgehen notwendig ist, um die Vorteile der Technologie verantwortungsvoll zu realisieren. Kritiker werfen Amodei vor, eine „Doomer“-Haltung zu vertreten, die die aktuelle KI-Skepsis noch verstärkt. Andere, wie der Journalist Brian Merchant, sehen in solchen Vorschlägen eine mögliche Ablenkung von bereits existierenden Schäden durch KI und befürchten eine „Regulierungs-Capture“, die letztlich nur den großen Unternehmen wie Anthropic und OpenAI nützen könnte.
Thema: Anthropic. Quelle/Inspiration: TechCrunch.