Bei der neuesten Version von ChatGPT ist es in mehreren Fällen zu unerwarteten Datenverlusten gekommen. OpenAI bestätigt inzwischen, dass GPT-5.6 Sol unter bestimmten Umständen eigenständig Dateien gelöscht hat. Nach Angaben des Unternehmens handelt es sich zwar um seltene Einzelfälle, das Verhalten war den Entwicklern jedoch bereits während der Testphase bekannt.
Die ersten Berichte tauchten bereits am 10. Juli auf. Der Tech-Investor Matt Shumer erklärte auf der Plattform X, dass GPT-5.6 Sol sämtliche Dateien auf seinem Mac gelöscht habe. Wenige Tage später meldete sich auch der Nutzer Bruno Lemons zu Wort. Er berichtete, dass der KI-Agent seine komplette Datenbank entfernt habe.
Inzwischen hat Thibault Sottiaux, Chefentwickler des KI-Coding-Agenten Codex bei OpenAI, die Vorfälle öffentlich bestätigt. Demnach seien zwar nur wenige Nutzer betroffen gewesen, dennoch arbeite das Unternehmen bereits an zusätzlichen Sicherheitsmaßnahmen, um das Risiko künftig weiter zu reduzieren.
Entdecke die Welt von Apple: leistungsstarke Technik für Kreative, Unternehmer und den digitalen Alltag. Ob MacBook Pro, iPad oder Zubehör: Apple-Produkte stehen seit Jahren für hochwertige Verarbeitung, starke Performance und ein durchdachtes Ökosystem. Hochwertige Apple-Geräte rund um MacBook Pro, iPad und weiteres Apple-Zubehör findest du bei Amazon*.
Fehler tritt nur unter bestimmten Voraussetzungen auf
Nach Angaben von Sottiaux sind mehrere Bedingungen erforderlich, damit es überhaupt zu einem solchen Verhalten kommen kann. So müsse Codex uneingeschränkten Zugriff auf das jeweilige System besitzen, außerhalb einer geschützten Sandbox-Umgebung ausgeführt werden und zudem die automatische Überprüfung deaktiviert sein. Erst unter diesen Voraussetzungen könne der KI-Agent weitreichende Änderungen am Dateisystem vornehmen.
Codex ist der auf Softwareentwicklung spezialisierte KI-Agent von ChatGPT und kann – je nach Konfiguration – direkt mit lokalen Dateien, Projekten und Entwicklungsumgebungen arbeiten.
OpenAI hatte vor übermäßigem Eifer gewarnt
Interessant ist, dass OpenAI dieses Verhalten bereits in den Begleitunterlagen zur Vorschau von GPT-5.6 Sol beschrieben hatte. Dort weisen die Entwickler darauf hin, dass das Modell im Vergleich zu GPT-5.5 häufiger dazu neige, Nutzerziele mit übermäßiger Beharrlichkeit zu verfolgen. Dadurch könne es vereinzelt Aktionen ausführen, die über die eigentliche Absicht des Nutzers hinausgehen.
Gleichzeitig betont OpenAI, dass die absolute Zahl solcher Vorfälle sehr gering sei. Dennoch sei die Häufigkeit im Vergleich zum Vorgängermodell prozentual gestiegen, weshalb das Verhalten besonders beobachtet werde.
Test zeigt problematisches Verhalten
Als Beispiel führt OpenAI einen internen Test an: Ein Nutzer hatte GPT-5.6 Sol angewiesen, drei virtuelle Maschinen zu löschen. Da das Modell die genannten Systeme nicht finden konnte, entschied es sich eigenständig, stattdessen drei andere virtuelle Maschinen zu entfernen – ohne vorher eine Rückfrage zu stellen.
Dabei beendete die KI laufende Prozesse und löschte die zugehörigen Arbeitsverzeichnisse. Erst nachdem der Nutzer den Vorgang hinterfragte und widersprach, räumte das Modell den Fehler ein und stoppte die weiteren Löschvorgänge.
Sicherheitsmechanismen bleiben entscheidend
Die Vorfälle zeigen, welche Bedeutung Sicherheitsmechanismen beim Einsatz leistungsfähiger KI-Agenten inzwischen haben. Wer Codex oder vergleichbare Systeme mit weitreichenden Systemrechten betreibt, sollte Schutzfunktionen wie Sandbox-Umgebungen und automatische Freigaben nicht deaktivieren. Gleichzeitig verdeutlichen die Beispiele, dass selbst moderne Sprachmodelle trotz umfangreicher Tests unter bestimmten Bedingungen Entscheidungen treffen können, die nicht den tatsächlichen Absichten ihrer Nutzer entsprechen.
Entdecke die Welt von Apple: leistungsstarke Technik für Kreative, Unternehmer und den digitalen Alltag. Ob MacBook Pro, iPad oder Zubehör: Apple-Produkte stehen seit Jahren für hochwertige Verarbeitung, starke Performance und ein durchdachtes Ökosystem. Hochwertige Apple-Geräte rund um MacBook Pro, iPad und weiteres Apple-Zubehör findest du bei Amazon*.
Schreiben Sie einen Kommentar