Neue OpenAI KI entwickelt eigene Hacker Strategien
OpenAI hat die internen Tests mit dem kommenden KI-Modell Astra teilweise gestoppt. Das System erreichte eine kritische Gefahrenstufe, da es eigenständig komplexe Cyberangriffe auf gehärtete IT-Systeme durchführen kann. Als direkte Reaktion testet das Unternehmen die Software nur noch in streng isolierten Umgebungen.
Zukünftig sollen Regierungsbehörden und externe Experten bei der Sicherheitsprüfung des Modells helfen. OpenAI: Responding to the next frontier of critical cyber capabilities OpenAI stoppt teilweise die internen Tests mit seinem kommenden KI-Modell »Astra«. Aktuelle Auswertungen deuten darauf hin, dass das Modell eigenständig gravierende Sicherheitslücken in IT-Systemen finden und ausnutzen könnte.
Das Unternehmen verschärft deshalb drastisch seine Sicherheitskontrollen. Autonome Zero-Day-Exploits Laut dem im Dezember 2023 veröffentlichten »Preparedness Framework« überschreitet ein Modell die »kritische« Schwelle, wenn es in der Lage ist, ohne menschliches Eingreifen funktionierende Zero-Day-Exploits für gesicherte IT-Systeme zu erstellen. Astra hat genau dieses Potenzial!
Das Modell kann offenbar aus einem groben Ziel völlig neue Strategien für Cyberangriffe ableiten und komplett selbstständig ausführen. Bisherige Modelle wie GPT-5.6-Sol stufte OpenAI bei Cyberfähigkeiten lediglich als »hoch« ein. Erste Evaluierungen der vergangenen Tage sowie externe Expertenmeinungen zwingen das Unternehmen nun zum Umdenken.
Die Leistung von Astra ist so stark, dass die Entwickler die kritische Stufe nicht mehr ausschließen können. An dem kürzlich bekannt gewordenen Exploit bei der Plattform Hugging Face war Astra laut OpenAI allerdings nicht beteiligt. Anzeige Strenge Überwachung und Teststopp Als Reaktion fährt das Unternehmen die Sicherheitsvorkehrungen hoch: Alle internen Aktivitäten mit Astra, die den neuen Anforderungen nicht entsprechen, pausieren vorerst.
Die Entwickler testen das Modell nur noch in isolierten Umgebungen mit stark eingeschränktem Netzwerkzugriff. OpenAI schützt die Modellgewichte künftig besser und führt Tests in abgeschirmten Sandboxen aus. Zudem überwacht ein Monitoringsystem alle agentischen Anwendungen von Astra.
Es analysiert die »Gedankengänge« (Chain of Thought) des Modells in Echtzeit und stoppt den Vorgang bei riskantem Verhalten automatisch. Behörden prüfen mit Ein ähnliches Vorgehen wandte OpenAI bereits im Juni 2025 an, als damalige Modelle die hohe Gefahrenstufe für biologische Risiken erreichten. Nun greift das gleiche Prinzip für Cybersicherheit.
OpenAI will die Fähigkeiten von Astra gemeinsam mit Regierungsbehörden und ausgewählten Sicherheitsorganisationen testen. Externe Partner erhalten strikte Vorgaben, um risikoreiche Workloads sicher auszuführen. Langfristig sollen Modelle wie Astra IT-Verteidigern helfen, Schwachstellen noch vor echten Angreifern zu finden und zu schließen.