Autonome KI-Assistenten sollen Unternehmen effizienter machen und komplexe Aufgaben weitgehend selbstständig erledigen. Doch wenn mehrere dieser Systeme gleichzeitig in einer gemeinsamen Umgebung arbeiten, entstehen offenbar nicht nur Kooperationen, sondern auch Konflikte. Das zeigt eine Untersuchung des US-amerikanischen KI-Unternehmens Anthropic.
Die Forschenden berichten von wiederkehrenden „Revierkämpfen“ zwischen den getesteten Agenten. In bestimmten Situationen hätten sich die Systeme gegenseitig behindert und teilweise sogar aktiv sabotiert. Aus Sicht von Anthropic verdeutlichen die Ergebnisse, dass eine höhere Leistungsfähigkeit einzelner Modelle nicht automatisch zu einer erfolgreichen Zusammenarbeit führt.
Agenten arbeiteten über längere Zeit selbstständig
KI-Agenten sind Programme, die Arbeitsaufträge weitgehend autonom bearbeiten können. Anders als herkömmliche Chatbots müssen sie nicht vor jedem einzelnen Schritt um eine neue Anweisung bitten. Unternehmen versprechen sich davon schnellere Abläufe und geringere Kosten.
Für die Untersuchung ließ Anthropic mehrere KI-Assistenten über längere Zeit in gemeinsamen Testumgebungen agieren. Zum Einsatz kamen unterschiedliche Modellgenerationen aus mehreren Modellreihen des Herstellers.
Die Agenten sollten unter anderem Sicherheitslücken aufspüren, gemeinsam Software entwickeln und unzuverlässige Informationsquellen identifizieren. In einem weiteren Versuch erhielten sie widersprüchliche Ziele, die sie innerhalb desselben Systems verfolgen mussten.
Gegensätzliche Aufgaben führten zur Eskalation
Bei der gemeinsamen Suche nach Schwachstellen erzielte der Schwarm laut Anthropic durchaus gute Ergebnisse. Deutlich problematischer verliefen jedoch Tests, bei denen mehrere Agenten gegensätzliche Programmieraufträge bearbeiten sollten.
Die Modelle interpretierten das Verhalten der jeweils anderen Systeme demnach teilweise als absichtliche Behinderung. In der Folge begannen sie, ihre digitalen Konkurrenten zu sabotieren. Anthropic zufolge setzten die Agenten dabei zunehmend aggressive Schadprogramme ein, die sich selbst vervielfältigen konnten.
Die Beobachtung zeigt ein grundlegendes Problem: Selbst wenn einzelne KI-Systeme bestimmte Vorgaben zuverlässig befolgen, ist damit nicht gewährleistet, dass mehrere Agenten gemeinsam ein stabiles und sicheres Gesamtsystem bilden.
Ähnliche Agenten liefern ähnliche Lösungen
Anthropic stellte zudem fest, dass mehrere ähnlich konfigurierte Assistenten häufig zu denselben Ergebnissen kamen. Statt unterschiedliche Lösungswege zu entwickeln und sich dadurch gegenseitig zu ergänzen, entschieden sie sich vielfach für nahezu identische Ansätze.
Gerade für Unternehmen könnte diese Gleichförmigkeit ein Risiko darstellen. Werden Aufgaben parallel an mehrere Agenten verteilt, entsteht dadurch nicht zwangsläufig eine größere Vielfalt an Ideen oder eine bessere Absicherung gegen Fehlentscheidungen.
Ergebnisse bislang nicht unabhängig geprüft
Mit der Veröffentlichung will Anthropic nach eigenen Angaben eine breitere Debatte über die Risiken fortschrittlicher KI-Systeme anstoßen. Das Unternehmen betont, dass erfolgreiche Koordination weder allein durch höhere Intelligenz noch durch die zuverlässige Ausrichtung einzelner Agenten entstehe.
Die beobachteten Probleme müssen laut Anthropic nicht dauerhaft bestehen. Gleichzeitig gebe es jedoch keine Hinweise darauf, dass sie sich mit der Weiterentwicklung der Systeme von selbst lösen werden. Unabhängig überprüft wurden die Untersuchung und ihre Ergebnisse bislang nicht.
- Farbenlehre im Webdesign: Von Newtons Prisma bis zu digitalen Farbsystemen – 16. August 2026
- OpenAI weitet Werbung in ChatGPT auf weitere Nutzer aus – 16. August 2026
- Anthropic warnt vor Konflikten zwischen autonomen KI-Agenten – 16. August 2026
Schreiben Sie einen Kommentar