Anthropic hat die Sicherheitsfilter seines KI-Modells Fable 5 für biologische Anfragen um rund 85 Prozent gelockert. Diese Anpassung führt dazu, dass deutlich weniger harmlose Anfragen fälschlicherweise blockiert und an das leistungsschwächere Modell Opus 5 umgeleitet werden müssen.
Weniger Blockaden bei biologischen Anfragen
Zuvor wurden fast alle biologierelevanten Anfragen von Fable 5 blockiert, was zu Kritik von Wissenschaftlern führte. Durch die nun vorgenommene Reduzierung der falsch-positiven Ergebnisse um etwa 85 Prozent können Nutzer mit Fable 5 jetzt eine Vielzahl von biologischen Aufgaben bewältigen. Dazu gehören die Interpretation von Laborergebnissen, das Verständnis von Symptomen oder die Beantwortung medizinischer Fragen.
Duale Nutzung bleibt eingeschränkt
Trotz der Lockerungen bleiben Beschränkungen für sogenannte „Dual-Use“-Themen bestehen. Dazu zählen Bereiche wie Virologie, Toxikologie und molekulares Design. Anthropic begründet dies damit, dass Fable 5 in diesen sensiblen Feldern potenziell schädlichen Akteuren Fähigkeiten zur Verfügung stellen könnte, die sonst nicht zugänglich wären. Das Unternehmen arbeitet jedoch an Zugangsprogrammen, um Forschern diese eingeschränkten Funktionen zukünftig zugänglich zu machen.
Hintergrund der Sicherheitsmaßnahmen
Anthropic erklärt seine Vorsicht mit der Einschätzung, dass biologische Risiken möglicherweise schwieriger einzudämmen sind als Cyberangriffe. Ein einmal freigesetztes Virus kann nicht einfach abgeschaltet werden, und Gegenmaßnahmen benötigen Zeit. Diese Bedrohung wird durch Analysen von US-Geheimdiensten, die Überprüfung von ChatGPT-Chats, die Anweisungen für Biowaffen anforderten, sowie gemeinsame Warnungen von Forschern bestätigt. Dies deutet darauf hin, dass die Bedenken von Anthropic auf einer fundierten Einschätzung basieren.
Thema: Anthropic. Quelle/Inspiration: The Decoder.