Google testet KI-Agenten in einem künstlichen Internet

Google hat eine abgeschottete Nachbildung des Internets entwickelt, um KI-Agenten auf Angriffe vorzubereiten. In der „Mirror Dimension“ treffen die Systeme auf Tausende künstliche Websites, erledigen Aufgaben und werden gezielt mit manipulierten Inhalten konfrontiert. Die Simulation soll zeigen, ob sich Agenten von ihrem Auftrag abbringen lassen, ohne dabei Aktionen im echten Netz auszulösen.

Entdecke die Welt von Apple: leistungsstarke Technik für Kreative, Unternehmer und den digitalen Alltag. Ob MacBook Pro, iPad oder Zubehör: Apple-Produkte stehen seit Jahren für hochwertige Verarbeitung, starke Performance und ein durchdachtes Ökosystem. Hochwertige Apple-Geräte rund um MacBook Pro, iPad und weiteres Apple-Zubehör findest du bei Amazon*.

Wenn eine Website dem Agenten Befehle erteilt

KI-Agenten sollen Websites besuchen, Informationen zusammentragen, Formulare ausfüllen oder Einkäufe erledigen. Dafür müssen sie Inhalte auswerten, die außerhalb der Kontrolle ihrer Entwickler und Nutzer liegen. Genau dort können Angreifer ansetzen.

Bei sogenannten Prompt-Injection-Angriffen platzieren sie Anweisungen in Webseiten oder anderen Inhalten. Diese sollen den Agenten dazu bringen, fremde Vorgaben zu befolgen. Statt beispielsweise nur eine Information zu recherchieren, könnte er vertrauliche Nutzerdaten weitergeben oder eine unerwünschte Aktion ausführen.

Die zentrale Sicherheitsfrage lautet deshalb: Kann ein Agent zwischen Informationen auf einer Website und Anweisungen unterscheiden, zu deren Ausführung er tatsächlich berechtigt ist?

Eine Testumgebung ohne Folgen im echten Netz

Solche Angriffe lassen sich nur begrenzt im offenen Internet erproben. Ein Agent, der dort Formulare abschickt oder Bestellungen ausführt, könnte reale Vorgänge anstoßen. Google verlegt die Tests deshalb in die „Mirror Dimension“.

Die Umgebung enthält Tausende künstliche Websites, auf denen Agenten realitätsnahe Aufgaben bearbeiten können. Zugleich lassen sich dort gezielt Angriffe einbauen und deren Auswirkungen beobachten. Die Abschottung soll verhindern, dass die Tests auf reale Dienste übergreifen.

Dabei muss die Simulation überzeugend wirken. Nach Googles Darstellung können KI-Modelle unter Umständen erkennen, dass sie getestet werden, und ihr Verhalten entsprechend verändern. Ungewöhnliche Webadressen oder offensichtlich künstliche Seiten könnten die Aussagekraft der Ergebnisse deshalb beeinträchtigen.

Echte Adressen führen zu künstlichen Websites

Um die Testumgebung möglichst glaubwürdig zu gestalten, lässt Google die Agenten bekannte Internetadressen wie youtube.com aufrufen. Im Hintergrund erreichen sie jedoch keine echte Website.

Dafür läuft Chrome in einer isolierten Umgebung. Der Netzwerkverkehr des Browsers wird abgefangen und an einen lokalen Vermittlungsserver, einen sogenannten Proxy, weitergeleitet. Dieser liefert die künstlichen Seiten aus.

Damit auch verschlüsselte HTTPS-Verbindungen funktionieren, hat Google im Testbrowser eine eigene Zertifizierungsstelle als vertrauenswürdig hinterlegt. Der lokale Server kann dadurch Zertifikate für die aufgerufenen Adressen ausstellen, die Chrome innerhalb der Testumgebung akzeptiert. Für den Agenten soll der Seitenaufruf dadurch wie ein gewöhnlicher Besuch im Internet aussehen.

KI-Agenten bauen das Testnetz selbst

Bei der Erstellung der künstlichen Websites setzt Google ebenfalls auf KI-Agenten. Ein Rechercheagent ermittelt zunächst die Anforderungen. Anschließend programmiert ein Entwicklungsagent die Seiten. Weitere Agenten prüfen die Ergebnisse und schlagen Verbesserungen vor.

Dieser automatisierte Ablauf soll den Aufbau der Testumgebung erleichtern. Ihr Nutzen hängt allerdings davon ab, wie überzeugend sie reale Websites, Aufgaben und Angriffsmöglichkeiten abbildet.

Mehr als 1.000 Angriffskandidaten pro Tag

Für die Sicherheitstests schleust Google manipulierte Inhalte in die künstlichen Seiten ein. Die Angriffsanweisungen können in Texten, Bildern oder anderen Seitenelementen stecken. Anschließend wird geprüft, ob die Agenten ihrem ursprünglichen Auftrag folgen oder sich umlenken lassen.

Nach Angaben des Unternehmens erzeugt die automatisierte Testpipeline täglich mehr als 1.000 Angriffstestkandidaten pro Sicherheitsingenieur. Das seien über 30-mal so viele wie bei manueller Arbeit.

Die Zahl beschreibt den Umfang der erzeugten Testkandidaten. Wie viele unterschiedliche Schwachstellen dadurch gefunden werden und wie zuverlässig die Agenten anschließend Angriffe abwehren, lässt sich daraus allein nicht ableiten.

Die Simulation soll weiter wachsen

Google will die künstliche Webumgebung weiterentwickeln und die Sicherheitstests ausbauen. Nach einem Bericht von Wired soll die „Mirror Dimension“ außerdem weiteren Teams innerhalb des Konzerns zugänglich gemacht werden.

Eine Garantie gegen Prompt Injections bietet die Simulation nicht. Sie schafft jedoch einen kontrollierten Raum, in dem sich Angriffe wiederholt erproben lassen. Wie gut die dort gewonnenen Erkenntnisse im offenen Internet tragen, hängt auch davon ab, wie nah Googles künstliches Netz an dessen wechselnde Inhalte und Angriffsmethoden herankommt.

Entdecke die Welt von Apple: leistungsstarke Technik für Kreative, Unternehmer und den digitalen Alltag. Ob MacBook Pro, iPad oder Zubehör: Apple-Produkte stehen seit Jahren für hochwertige Verarbeitung, starke Performance und ein durchdachtes Ökosystem. Hochwertige Apple-Geräte rund um MacBook Pro, iPad und weiteres Apple-Zubehör findest du bei Amazon*.

Sladjan Lazic

Comments

Schreiben Sie einen Kommentar

Ihre E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert