Die Bank of America hat seit dem zweiten Quartal 4.000 Personen – 1.000 externe Auftragnehmer und 3.000 interne Mitarbeiter – damit beauftragt, Software-Schwachstellen zu beheben, die von Künstlicher Intelligenz aufgedeckt wurden. CEO Brian Moynihan gab an, dass die Bank im dritten Quartal einen Betrag von einigen hundert Millionen Dollar für diese Softwarearbeiten sowie für Anforderungen zur Bekämpfung der Geldwäsche ausgegeben hat, ohne separate Zahlen für die Patches zu nennen.
Umfangreiche Reaktion auf KI-entdeckte Lücken
Die massive Personalzuteilung unterstreicht die wachsende Bedeutung von KI-gestützten Tools zur Identifizierung von Sicherheitslücken. Die Bank of America ist eines der ersten großen US-Unternehmen, das detaillierte Angaben zur Anzahl der Mitarbeiter macht, die für die Behebung solcher von KI entdeckten Schwachstellen eingesetzt werden. Moynihan äußerte die Erwartung, dass die Kosten für die Behebung dieser Lücken im Laufe der Zeit sinken werden.
KI-Modelle identifizieren Sicherheitsrisiken
Die Entwicklung in diesem Bereich nahm im April an Fahrt auf, als Anthropic sein KI-Modell Mythos ausgewählten Partnern über das Projekt Glasswing zugänglich machte. Anthropic gab damals an, dass Mythos Tausende von schwerwiegenden Sicherheitslücken gefunden habe. Im Mai folgte OpenAI mit der Einführung seines Cybersicherheitsprogramms Daybreak, das ebenfalls auf die Erkennung und Behebung von Sicherheitsrisiken abzielt.
Wandel in der Bewertung von KI-Sicherheitswarnungen
Anfängliche Bedenken und Warnungen von Forschungslaboren bezüglich der Fähigkeiten von KI, Sicherheitslücken zu finden, wurden von Kritikern zunächst als reine PR abgetan. Die Debatte hat sich jedoch verschoben, nicht zuletzt durch reale Sicherheitsvorfälle wie den Hack von Hugging Face. Unabhängige Evaluierungen bestätigten zudem die zunehmend stärkeren Fähigkeiten dieser neuen KI-Modelle in der Erkennung von Software-Schwachstellen, was die Ernsthaftigkeit der Bedrohung und die Notwendigkeit proaktiver Maßnahmen unterstreicht.
Thema: Anthropic. Quelle/Inspiration: The Decoder.