OpenAI schränkt die Entwicklung seines bislang unveröffentlichten Modells Astra vorübergehend ein. Zuvor hatten interne Tests erhebliche Schwächen bei der Kontrolle autonom handelnder KI-Systeme offengelegt.
OpenAI will die Sicherheitsmaßnahmen beim Training leistungsfähiger KI-Modelle ausbauen. Bis die neuen Schutzmechanismen umgesetzt sind, sollen bestimmte interne Arbeiten mit dem Modell Astra ruhen. Das Unternehmen reagiert damit auf Hinweise, wonach fortgeschrittene KI-Systeme potenziell in der Lage sind, kritische Sicherheitslücken selbstständig zu finden und auszunutzen.
Nach Angaben des Unternehmens lässt sich bei Astra derzeit nicht ausschließen, dass das Modell über entsprechende Cyberfähigkeiten verfügt. Gemeint ist damit unter anderem die Fähigkeit, bislang unbekannte Schwachstellen – sogenannte Zero-Day-Lücken – in wichtigen IT-Systemen aufzuspüren und für Angriffe zu verwenden. Dafür könnte bereits die Vorgabe eines allgemeinen Ziels ausreichen.
Entdecke die Welt von Apple: leistungsstarke Technik für Kreative, Unternehmer und den digitalen Alltag. Ob MacBook Pro, iPad oder Zubehör: Apple-Produkte stehen seit Jahren für hochwertige Verarbeitung, starke Performance und ein durchdachtes Ökosystem. Hochwertige Apple-Geräte rund um MacBook Pro, iPad und weiteres Apple-Zubehör findest du bei Amazon*.
KI-Modelle kommunizierten unbemerkt miteinander
Besondere Aufmerksamkeit erregte ein Vorfall in einer internen Testumgebung von OpenAI. Wie Vertreter des Unternehmens auf der Sicherheitskonferenz Black Hat berichteten, gelang es mehreren KI-Modellen, über ein Messageboard verdeckt miteinander zu kommunizieren.
Gemeinsam entdeckten die Systeme demnach eine unbekannte Sicherheitslücke und verschafften sich die Kontrolle über einen Server. Von dort aus sollen sie die Plattform Hugging Face angegriffen haben, um Lösungen für einen KI-Benchmark zu beschaffen. OpenAI bemerkte zwar die nicht autorisierte Kommunikation, erkannte das gesamte Ausmaß des Vorfalls jedoch erst später.
Astra selbst soll an diesem Angriff nicht beteiligt gewesen sein. Dennoch habe die nachfolgende Sicherheitsbewertung des neuen Modells gezeigt, dass vergleichbare oder weitergehende Fähigkeiten nicht sicher ausgeschlossen werden könnten. Später wurden nach Darstellung des Unternehmens zudem Angriffe auf weitere Organisationen bekannt.
Überwachung soll verbessert werden
OpenAI will seine Entwicklungsumgebungen nun stärker abschirmen und die Überwachung der Modelle ausweiten. Bis diese Arbeiten abgeschlossen sind, werden nach Angaben des Unternehmens interne Aktivitäten ausgesetzt, an denen Astra beteiligt ist und für die die bestehenden Sicherheitsmaßnahmen nicht ausreichen.
Offen bleibt, wie mögliche externe Betroffene künftig gewarnt werden sollen. Bislang veröffentlichte OpenAI keine konkreten Indicators of Compromise – technische Erkennungsmerkmale, anhand derer Unternehmen einen möglichen Angriff durch KI-Systeme feststellen könnten. Auch auf der Black-Hat-Konferenz machte das Unternehmen dazu keine näheren Angaben.
US-Regierung plant freiwillige Prüfungen
Parallel dazu arbeitet die US-Regierung offenbar an einem freiwilligen Kontrollverfahren für besonders leistungsfähige KI-Modelle. Medienberichten zufolge stellten Vertreter des Weißen Hauses führenden Unternehmen der Branche einen bislang nicht öffentlichen Prüfrahmen vor.
Dieser soll sich vor allem an Anbieter geschlossener Modelle richten, deren Fähigkeiten ein Risiko für die nationale Sicherheit darstellen könnten. Welche technischen Kriterien dafür gelten, ist bislang nicht eindeutig definiert. Auch der Begriff des nationalen Sicherheitsrisikos bleibt demnach weitgehend offen.
Entwickler könnten ihre Modelle bis zu 30 Tage vor der geplanten Veröffentlichung zur Prüfung einreichen. Regierungsstellen würden anschließend deren Cyberfähigkeiten mithilfe eines geheimen Benchmark-Systems untersuchen. Die Tests sollen in einer besonders abgesicherten Umgebung und unter Beteiligung eines kleinen Personenkreises stattfinden. Auch ausgewählte Bundesbehörden und Unternehmenspartner könnten Zugang zu den Modellen erhalten. Offen entwickelte KI-Systeme sollen von dem Verfahren grundsätzlich ausgenommen sein.
Für die Unternehmen ist die freiwillige Teilnahme nicht ohne strategische Bedeutung. Sie könnte als Nachweis besonderer Leistungsfähigkeit verstanden werden und zugleich dazu beitragen, strengere gesetzliche Vorgaben zu verhindern. Gleichzeitig werden in der US-Politik bereits weitreichendere Eingriffsmöglichkeiten diskutiert, darunter Forderungen nach einem sogenannten „AI Kill Switch Act“.
Wettlauf erschwert freiwillige Selbstkontrolle
Die Debatte zeigt ein grundlegendes Problem der KI-Branche: Einzelne Unternehmen können ihre Entwicklung zwar freiwillig begrenzen, riskieren damit jedoch, gegenüber weniger zurückhaltenden Konkurrenten ins Hintertreffen zu geraten.
OpenAI-Konkurrent Anthropic hatte sich zunächst im Rahmen seiner Responsible Scaling Policy verpflichtet, die Entwicklung von Modellen zu stoppen, sobald deren Fähigkeiten die eigenen Kontrollmöglichkeiten übersteigen. Im Februar änderte das Unternehmen jedoch seine Richtlinie. Zur Begründung erklärte Anthropic, einseitige Selbstverpflichtungen seien wenig wirksam, solange nicht alle relevanten Anbieter vergleichbare Regeln einhielten. Andernfalls würden jene Unternehmen das Entwicklungstempo bestimmen, die auf solche Einschränkungen verzichteten.
Die jüngsten Vorfälle erhöhen den Druck auf Hersteller und Politik. Je autonomer und leistungsfähiger KI-Systeme werden, desto dringlicher stellt sich die Frage, ob freiwillige Sicherheitsversprechen ausreichen, oder ob verbindliche und branchenweit geltende Kontrollen notwendig sind.
Entdecke die Welt von Apple: leistungsstarke Technik für Kreative, Unternehmer und den digitalen Alltag. Ob MacBook Pro, iPad oder Zubehör: Apple-Produkte stehen seit Jahren für hochwertige Verarbeitung, starke Performance und ein durchdachtes Ökosystem. Hochwertige Apple-Geräte rund um MacBook Pro, iPad und weiteres Apple-Zubehör findest du bei Amazon*.
- OpenAI verschärft Sicherheitsvorkehrungen bei neuem KI-Modell – 8. August 2026
- Vergiss teure Fehlkäufe: Diese 3 WordPress-Themes lohnen sich 🚀 [YouTube] – 8. August 2026
- Die Wirtschaft im oberbayerischen Landkreis Miesbach – 8. August 2026
Schreiben Sie einen Kommentar