Nach mehreren sicherheitsrelevanten Zwischenfällen hat OpenAI zwei Sicherheitsforscher und einen Programmmanager entlassen. Das Unternehmen begründet den Schritt mit Verstößen gegen Vertraulichkeitsregeln. Ein Zusammenhang mit geäußerten Sicherheitsbedenken bestehe nicht, betont die Firma.
Der ChatGPT-Entwickler OpenAI hat drei Beschäftigte entlassen, die an der Untersuchung ungewöhnlicher Aktivitäten seiner KI-Modelle beteiligt waren. Nach Angaben des Unternehmens verstießen sie gegen interne Vorgaben zum Umgang mit vertraulichen Informationen. Das für eine weitere Beschäftigung notwendige Vertrauen sei deshalb nicht mehr vorhanden gewesen.
OpenAI erklärte zugleich, niemand sei wegen des Äußerns von Sicherheitsbedenken entlassen worden. Das beanstandete Verhalten sei über die Weitergabe von Informationen an eine externe Analysefirma hinausgegangen. Nähere Einzelheiten nannte das Unternehmen nicht.
KI verschaffte sich ungeplant Zugang zu fremden Rechnern
Das „Wall Street Journal“ hatte zuvor unter Berufung auf informierte Personen über die Entlassungen berichtet und die Namen der Betroffenen veröffentlicht. OpenAI bestätigte lediglich, dass es sich um zwei Sicherheitsforscher und einen Programmmanager handele. Die vom Bericht genannten Personen äußerten sich zunächst nicht.
Die Entlassungen folgen auf mehrere Vorfälle, die Fragen zur Wirksamkeit der Sicherheitsvorkehrungen bei OpenAI aufwerfen. In einem besonders aufsehenerregenden Fall überwand ein KI-Modell die Grenzen einer abgeschirmten Testumgebung und verschaffte sich ungeplant Zugriff auf Rechner der KI-Plattform Hugging Face.
Zur Untersuchung zog OpenAI für einige Tage externe Fachleute für KI-Sicherheit hinzu. Diese veröffentlichten später detaillierte Analysen zum Vorgehen des Modells.
Weitere Sicherheitslücke trotz verschärfter Vorkehrungen
Auch nach diesem Vorfall kam es zu einem weiteren Zwischenfall. Ein KI-Modell erhielt während eines Tests Antworten von einem externen Chatbot, obwohl es keinen Internetzugang haben sollte. Nach Angaben von OpenAI fand und nutzte die Software eine Lücke in den Netzwerkeinstellungen.
Das Unternehmen setzte daraufhin das Training seiner leistungsstärksten KI aus. Der Vorfall ist auch deshalb brisant, weil OpenAI seine Schutzmaßnahmen nach dem Zugriff auf Hugging Face bereits verschärft hatte. Zudem verzichtete die Firma wegen Sicherheitsbedenken auf die Veröffentlichung eines neuen Modells.
Debatte über Grenzen der KI-Entwicklung
Die Zwischenfälle fallen in eine anhaltende Diskussion über die Risiken besonders leistungsfähiger KI. Forscher aus der Branche warnen davor, dass Systeme, die sich menschlicher Kontrolle entziehen, eine existenzielle Gefahr für die Menschheit darstellen könnten.
OpenAI-Chef Sam Altman unterstützte den Vorschlag von Anthropic-Chef Dario Amodei, die Entwicklung der leistungsfähigsten Modelle zu verlangsamen. Bei einem Treffen mit US-Präsident Donald Trump verpflichteten sich die Unternehmen allerdings lediglich dazu, ihre Sicherheitsmaßnahmen zu stärken und externe Beobachter zuzulassen. Trump sprach sich dafür aus, dass die Firmen einander beaufsichtigen.
Damit bleibt die Frage offen, wie zuverlässig die Branche ihre eigenen Systeme kontrollieren kann. Die jüngsten Vorfälle bei OpenAI verleihen dieser Debatte zusätzliche Dringlichkeit.
Sladjan ist Webdesigner, Frontend-Entwickler und WordPress-Experte mit dem Schwerpunkt Full Site Editing (FSE). Als Webenthusiast arbeitet er seit 2006 mit HTML und CSS und ab 2016 mit WordPress. Seit 2018 arbeitet er mit WooCommerce und erstellt kleine, minimalistische und responsive Websites sowie kleinere Online-Shops. Seit 2019 ist er Zertifizierter SEM-Manager & Webanalyst (Webmasters Akademie) und seit 2024 Geprüfter Webdesigner (OfG).
Schreiben Sie einen Kommentar