Anthropic's Meinung zu offenen KI-Modellen
Anthropic-Chef Dario Amodei lehnt ein pauschales Verbot von Open-Source-KI ab und warnt stattdessen vor militärischen Gefahren durch Autokratien. Um diese Risiken einzudämmen, fordert er strenge Exportkontrollen für KI-Hardware nach China und ein Vorgehen gegen Model-Destillation. Zudem spricht er sich für verpflichtende Sicherheitstests aller großen KI-Systeme aus, was in der Community auf heftige Kritik stößt.
Anthropic Blog: Our position on open-weights models Anthropic-CEO Dario Amodei lehnt ein pauschales Verbot offener KI-Modelle ebenfalls ab. Um Sicherheitsrisiken durch autoritäre Staaten zu minimieren, fordert er stattdessen strengere Exportkontrollen für Hardware und verpflichtende Sicherheitstests. In der Community stößt der Vorstoß auf Kritik.
Fokus auf Hardware und Destillation In einem aktuellen Statement reagiert Amodei auf Berichte, wonach US-Behörden den Einsatz chinesischer Open-Weights-Modelle verbieten könnten. Er stellt klar, dass sein Unternehmen ein solches Vorgehen nie gefordert habe. Amodei bezeichnet offene Modelle ohne gefährliche Fähigkeiten ausdrücklich als »öffentliches Gut«.
Die wahren Risiken sieht der CEO in zwei Szenarien. Zum einen könnten Staaten wie China leistungsfähigere KI für militärische Überlegenheit oder zur Überwachung nutzen. Zum anderen bestehe die Gefahr, dass die Technologie für Cyberangriffe oder zur Entwicklung biologischer Waffen missbraucht wird.
Twitter Beitrag - Cookies links unten aktivieren. There’s been a lot of speculation about where we stand on open-weights models. We’ve outlined our views in full here: https://t.co/NtXQuWm2g5 — Anthropic (@AnthropicAI) July 27, 2026 Drei Maßnahmen gegen den Missbrauch Um diese Bedrohungen einzudämmen, schlägt Amodei drei konkrete Schritte vor.
Erstens sollen keine leistungsfähigen Chips oder entsprechende Produktionsanlagen nach China verkauft werden. Da das Land nicht über ausreichend eigene Kapazitäten verfügt, sei dies der effektivste Weg, den technologischen Vorsprung zu sichern. Zweitens fordert er ein Vorgehen gegen die sogenannte Destillation im industriellen Maßstab.
Bei diesem ressourcenschonenden Verfahren trainieren Entwickler kleine KI-Modelle mit dem Output großer Systeme. Autokratische Staaten könnten so Exportbeschränkungen bei Chips umgehen und ihren Rückstand auf die USA auf wenige Monate verkürzen. Drittens spricht sich der CEO für verpflichtende Sicherheitstests aus.
Alle leistungsfähigen KI-Modelle sollen vor ihrer Veröffentlichung geprüft werden. Dies soll unabhängig davon gelten, ob sie als Open-Source-Variante oder als geschlossenes System auf den Markt kommen. Anzeige Scharfe Kritik der Nutzer Eine kürzlich veröffentlichte Petition vieler Tech-Firmen, die offene Modelle als generellen Sicherheitsgewinn darstellt, lehnt Amodei in Teilen ab.
Er warnt vor einer Asymmetrie: Besonders in der Biologie hätten Angreifer bei frei verfügbaren Modellen einen klaren Vorteil gegenüber Verteidigern. Auf der Plattform X reagieren Nutzer extrem ablehnend auf die Stellungnahme. Viele Kommentatoren werfen dem Unternehmen vor, unter dem Deckmantel der Sicherheit lediglich den eigenen »Status quo« verteidigen zu wollen.
Kritiker sehen in den Forderungen einen elitären Vorwand von Anthropic, um lästige Konkurrenz durch kleinere KI-Entwickler zu verhindern. Top News Jensen Huang's erster X-Beitrag erreicht 40M Aufrufe und ist extrem wichtig Der Chef von Nvidia setzt ein politisches Zeichen. Mit 24 weiteren US-Konzernen warnt er davor, frei zugängliche Open-Weight-Modelle durch neue Gesetze einzuschränken.