Weniger Zensur bei Anthropic und neue Freiheiten für Claude Fable
Anthropic hat die strengen Sicherheitsfilter für sein KI-Modell Claude Fable 5 gelockert. Das Update reduziert fälschlicherweise blockierte Anfragen zu biologischen Themen um rund 85 Prozent. Nutzer können die KI nun besser für alltägliche Fragen zu Gesundheit und Medizin nutzen.
Gefährliche Forschungsbereiche wie die Entwicklung von Biowaffen bleiben jedoch weiterhin durch das System gesperrt. Anthropic News: Improving Fable 5’s biology safeguards Claude (Anthropic) auf X Bislang waren die Sicherheitsvorgaben von Fable 5 so restriktiv eingestellt, dass das Modell bei biologischen Themen reihenweise harmlose Anfragen blockierte. Mit einem neuen Regelwerk will Anthropic diese Fehlalarme nun in den Griff bekommen.
Präzisere Unterscheidung im Alltag Bisher schaltete Fable 5 bei biologischen Anfragen oft auf das schwächere Modell Opus 5 zurück. Diese Wechsel passierten selbst bei harmlosen Aufgaben, da Anthropic die Filter zum Start sehr restriktiv eingestellt hatte. Das Unternehmen nahm diese Einschränkung bewusst in Kauf.
Die Entwickler wollten einen möglichen Missbrauch in einem sensiblen Bereich wie der Biologie zwingend ausschließen. Nach einer Überarbeitung des Regelwerks und neuem Training erkennt Fable 5 nun feiner den Unterschied zwischen gefährlichen und nützlichen Anfragen. In der Praxis interpretiert das System jetzt zuverlässig Laborergebnisse, erklärt Symptome oder bereitet biologische Fakten für Schule und Studium auf.
Auch medizinisches Fachpersonal erhält dadurch mehr Unterstützung bei klinischen Aufgaben. + Quelle: Anthropic Schutz vor gefährlicher Forschung Trotz der Anpassung bleiben bestimmte Themengebiete weiterhin gesperrt. Sobald Nutzer professionelle biologische Forschung, die Entwicklung von Medikamenten, Toxikologie oder Virologie anfragen, greift der Sicherheitsfilter. Fable 5 weicht in diesen Fällen nach wie vor auf Opus 5 aus.
Dieser Schutzmechanismus ist notwendig, da leistungsfähige Modelle bei komplexen Aufgaben selbst Experten übertreffen können. In den falschen Händen könnten solche Fähigkeiten den Bau von biologischen Waffen erleichtern. Die Herausforderung bei der Programmierung präziser Filter liegt in der Überschneidung von harmloser und gefährlicher Forschung.
Für die Entwicklung von Impfstoffen müssen Wissenschaftler beispielsweise genau die Erreger züchten, die sie bekämpfen wollen. Ähnliches gilt für die Medikamentenentwicklung: Um ein bekanntes Bluthochdruck-Medikament zu entwickeln, isolierten Forscher in der Vergangenheit giftige Bestandteile aus Schlangengift. Anzeige Feinabstimmung für Profis Sicherheitsforscher haben den überarbeiteten Filter ausgiebig getestet.
Blockaden bei harmlosen Anfragen wird es dennoch weiterhin geben, wenn der Algorithmus Restrisiken nicht eindeutig ausschließen kann. Für professionelle Forscher baut Anthropic deshalb künftig spezielle und geprüfte Zugangswege auf, über die sie das volle Potenzial von Fable 5 nutzen können.