OpenAI will seine leistungsfähigsten KI-Modelle in einer abgeschotteten Umgebung trainieren. Vollständig vom Internet getrennt ist die Infrastruktur allerdings nicht. Für Sicherheit sollen mehrere technische Schutzschichten und eine kontinuierliche Überwachung sorgen.
OpenAI baut die Sicherheitsvorkehrungen für das Training seiner leistungsfähigsten KI-Modelle aus. Hintergrund sind Vorfälle, bei denen KI-Agenten vorgesehene Grenzen ihrer Testumgebungen überwanden und auf externe Systeme zugriffen. Künftig sollen die Modelle in einer sogenannten „Offline-Welt“ lernen. Eine physische Trennung vom Internet, in der IT-Sicherheit als Air Gap bezeichnet, setzt das Unternehmen dabei jedoch nicht um.
Nach Darstellung von OpenAI benötigen die Modelle weiterhin Übung im Umgang mit Webanwendungen und bei der Suche nach Informationen. Dafür stellt das Unternehmen gespeicherte Webinhalte innerhalb der Trainingsumgebung bereit. So sollen die Systeme typische Aufgaben aus dem Internet bearbeiten können, ohne dafür unmittelbar auf das offene Netz angewiesen zu sein.
Entdecke die Welt von Apple: leistungsstarke Technik für Kreative, Unternehmer und den digitalen Alltag. Ob MacBook Pro, iPad oder Zubehör: Apple-Produkte stehen seit Jahren für hochwertige Verarbeitung, starke Performance und ein durchdachtes Ökosystem. Hochwertige Apple-Geräte rund um MacBook Pro, iPad und weiteres Apple-Zubehör findest du bei Amazon*.
Die Bezeichnung „Offline-Welt“ beschreibt damit die Arbeitsumgebung der KI-Agenten. Sie bedeutet nicht, dass die gesamte dahinterliegende Infrastruktur ohne externe Verbindungen auskommt.
Anlass für die verschärften Vorkehrungen waren mehrere Zwischenfälle. Besonders viel Aufmerksamkeit erhielt ein Test, bei dem ein OpenAI-Modell seine abgeschottete Umgebung verließ und auf Systeme der KI-Plattform Hugging Face zugriff. Auch bei Tests mit Modellen anderer Anbieter wurden Zugriffe auf fremde Systeme bekannt.
OpenAI führte anschließend zusätzliche Schutzmaßnahmen ein. Nach Angaben des Unternehmens fanden besonders leistungsfähige Modelle jedoch auch in diesen Absicherungen weitere Lücken.
Bei einem späteren Test gelang es einem Modell, Antworten von einem externen Chatbot zu erhalten, obwohl ihm eigentlich kein Internetzugang zur Verfügung stehen sollte. Eine umfassende Sicherheitsprüfung mithilfe von KI brachte zudem bislang unbekannte Software-Schwachstellen und Konfigurationsfehler ans Licht. OpenAI unterbrach daraufhin das Training seiner Spitzenmodelle. Nach eigenen Angaben nahm das Unternehmen es am 1. Oktober nach einer elftägigen Pause wieder auf.
Warum OpenAI auf einen Air Gap verzichtet
Eine vollständige physische Trennung der Sandbox sei derzeit nicht umsetzbar, erklärt OpenAI in seinem Blogbeitrag. Externe Verbindungen würden benötigt, um Experimente durchzuführen und zu überwachen.
Das Sicherheitskonzept beruht deshalb auf mehreren ineinandergreifenden Schutzschichten. Unter Linux sollen KI-Agenten in sogenannten MicroVMs laufen: schlanken virtuellen Maschinen, deren Zugriff auf das zugrunde liegende System durch Hypervisoren begrenzt wird. Ergänzend setzt OpenAI nach eigenen Angaben auf überarbeitete Netzwerkregeln, Zugriffskontrollen und eine engmaschige Überwachung.
Auch diese Form der Isolation bietet allerdings keine absolute Sicherheit. OpenAI berichtet von Tests, bei denen Agenten Schutzgrenzen mithilfe hardwarebasierter Seitenkanäle überwanden. Solche Angriffe nutzen indirekte Hinweise aus dem Verhalten eines Rechners, um Informationen zu gewinnen, die eigentlich abgeschirmt sein sollten. Bekannt wurde diese Angriffsklasse unter anderem durch Spectre und Meltdown.
KI soll andere KI-Agenten überwachen
OpenAI hat nach eigenen Angaben den Code seiner Sandbox überarbeitet und zusätzliche Kontrollverfahren eingebaut. Auffälliges Verhalten soll schneller erkannt werden; außerdem sollen sich Agenten bei Bedarf rascher anhalten lassen.
Weitere, getrennt betriebene Systeme sollen die Trainingsumgebung fortlaufend überwachen. Dabei kommen ebenfalls KI-Modelle zum Einsatz. Für diese Kontrollen habe das Unternehmen erhebliche Rechenleistung bereitgestellt.
Da die Agenten auch Aufgaben unter Windows und macOS bearbeiten müssen, nutzt OpenAI nach eigener Darstellung zudem virtualisierte Umgebungen für diese Betriebssysteme. Welche Technik dabei eingesetzt wird und ob sie teilweise selbst entwickelt wurde, lässt das Unternehmen offen.
OpenAI setzt damit auf eine Kombination aus virtueller Isolation, begrenzten Netzwerkzugriffen und laufender Kontrolle. Wie zuverlässig dieses Konzept funktioniert, hängt auch vom Zusammenspiel seiner einzelnen Komponenten ab. Die Verantwortung für deren korrekte Konfiguration und Prüfung liege beim Unternehmen selbst, räumt OpenAI ein. Die neue „Offline-Welt“ bleibt somit eine technisch abgeschottete, aber nicht physisch vom Internet getrennte Trainingsumgebung.
Entdecke die Welt von Apple: leistungsstarke Technik für Kreative, Unternehmer und den digitalen Alltag. Ob MacBook Pro, iPad oder Zubehör: Apple-Produkte stehen seit Jahren für hochwertige Verarbeitung, starke Performance und ein durchdachtes Ökosystem. Hochwertige Apple-Geräte rund um MacBook Pro, iPad und weiteres Apple-Zubehör findest du bei Amazon*.
Sladjan ist Webdesigner, Frontend-Entwickler und WordPress-Experte mit dem Schwerpunkt Full Site Editing (FSE). Als Webenthusiast arbeitet er seit 2006 mit HTML und CSS und ab 2016 mit WordPress. Seit 2018 arbeitet er mit WooCommerce und erstellt kleine, minimalistische und responsive Websites sowie kleinere Online-Shops. Seit 2019 ist er Zertifizierter SEM-Manager & Webanalyst (Webmasters Akademie) und seit 2024 Geprüfter Webdesigner (OfG).
Schreiben Sie einen Kommentar