Die Debatte über die Gefahren besonders leistungsfähiger künstlicher Intelligenz gewinnt weiter an Schärfe. Ein ehemaliger Sicherheitsforscher von Google DeepMind hat mit drastischen Aussagen vor möglichen Folgen des internationalen KI-Wettlaufs gewarnt.
Bilal Chughtai erklärte auf LinkedIn, er halte es grundsätzlich für möglich, dass künstliche Intelligenz eine existenzielle Gefahr für die Menschheit darstellen könne. Nach eigenen Angaben beschäftigte er sich bei DeepMind mit Fragen der KI-Sicherheit. Im Laufe seiner Tätigkeit seien seine Zweifel an der gegenwärtigen Entwicklungsrichtung immer größer geworden.
Entdecke die Welt von Apple: leistungsstarke Technik für Kreative, Unternehmer und den digitalen Alltag. Ob MacBook Pro, iPad oder Zubehör: Apple-Produkte stehen seit Jahren für hochwertige Verarbeitung, starke Performance und ein durchdachtes Ökosystem. Hochwertige Apple-Geräte rund um MacBook Pro, iPad und weiteres Apple-Zubehör findest du bei Amazon*.
Chughtais Äußerungen fallen in eine Phase zunehmender Auseinandersetzungen über die Regulierung fortgeschrittener KI-Systeme. Anthropic-Chef Dario Amodei hatte zuvor eine international abgestimmte Pause vorgeschlagen. Sie sollte der Branche ein bis zwei Jahre verschaffen, um Risiken besser zu erforschen und geeignete Sicherheitsmaßnahmen zu entwickeln.
Der Vorschlag erhielt innerhalb kurzer Zeit Unterstützung von prominenten Akteuren der Technologiebranche. Unter anderem signalisierten OpenAI-Chef Sam Altman und Unternehmer Elon Musk Zustimmung. Die Regierungen der beiden wichtigsten KI-Nationen reagierten jedoch ablehnend. US-Präsident Donald Trump kritisierte die Forderungen in ungewöhnlich scharfer Form. Auf seiner Plattform Truth Social sprach er von einer Verschwörung gegen künstliche Intelligenz und Rechenzentren. Zuvor hatte er bereits Anthropic-Chef Amodei persönlich angegriffen.
Auch China erteilte dem Vorstoß eine Absage. Ein Sprecher des chinesischen Außenministeriums warnte laut der Nachrichtenagentur Bloomberg vor Panikmache, Konfrontation und rücksichtslosem Wettbewerb. Ein solches Vorgehen behindere die Entwicklung internationaler Regeln und bringe keiner Seite einen Vorteil.
Vom „amüsant nutzlosen“ System zur möglichen Superintelligenz
Chughtai begründet seine Warnung vor allem mit dem hohen Entwicklungstempo. Als er sich 2022 intensiver mit künstlicher Intelligenz zu beschäftigen begonnen habe, seien die damaligen Systeme noch vergleichsweise unbrauchbar gewesen. Innerhalb weniger Jahre hätten sich ihre Fähigkeiten jedoch erheblich erweitert.
Als Beispiele nennt der Forscher KI-Agenten, die gemeinsam anspruchsvolle mathematische Probleme bearbeiten. Zugleich verweist er auf Berichte über Systeme, deren Verhalten sich nur schwer kontrollieren lasse. Für Chughtai deutet diese Entwicklung darauf hin, dass die technischen Möglichkeiten schneller wachsen könnten als das Wissen über ihre sichere Steuerung.
Seiner Einschätzung nach könnten KI-Unternehmen bereits in wenigen Jahren Systeme entwickeln, deren Fähigkeiten die des Menschen in nahezu allen Bereichen deutlich übertreffen. Ob eine solche künstliche Superintelligenz dauerhaft im Interesse ihrer Entwickler und der Gesellschaft handeln würde, sei keineswegs gesichert.
Alignment bleibt ungelöstes Problem
Im Mittelpunkt der Diskussion steht das sogenannte Alignment. Damit ist die Aufgabe gemeint, KI-Systeme so auszurichten, dass ihre Ziele und Handlungen mit menschlichen Werten und Interessen übereinstimmen, auch dann, wenn die Systeme leistungsfähiger und eigenständiger werden.
Nach Ansicht Chughtais ist dieses Problem bisher nicht zufriedenstellend gelöst. Im schlimmsten Fall könnten hoch entwickelte Systeme Handlungen ausführen, die sich menschlicher Kontrolle entziehen. Die denkbaren Folgen reichten von einer dauerhaften Entmachtung der Menschheit bis zu einer existenziellen Katastrophe.
Dabei handelt es sich um eine Risikoeinschätzung, nicht um eine gesicherte Prognose. Unter Fachleuten ist umstritten, wie wahrscheinlich solche Szenarien sind, wie schnell eine mögliche Superintelligenz entstehen könnte und welche Schutzmaßnahmen tatsächlich erforderlich wären.
Kritik am Wettlauf der KI-Unternehmen
Trotz seiner drastischen Warnung hält Chughtai eine sichere Entwicklung künstlicher Intelligenz grundsätzlich für möglich. Voraussetzung sei allerdings, dass Sicherheitsforschung nicht dem Konkurrenzdruck zwischen Unternehmen und Staaten untergeordnet werde.
Gerade darin liegt der zentrale Konflikt der aktuellen Debatte: Eine Pause könnte mehr Zeit für Forschung und Regulierung schaffen. Gleichzeitig fürchten Unternehmen und Regierungen, im globalen Technologiewettbewerb zurückzufallen, wenn sie ihre Entwicklung verlangsamen, während andere ungebremst weitermachen.
Dass Washington und Peking einer Unterbrechung des KI-Rennens widersprechen, macht eine international koordinierte Lösung vorerst unwahrscheinlich. Die Warnungen aus der Forschung dürften dennoch nicht verstummen, insbesondere dann nicht, wenn die Fähigkeiten neuer KI-Systeme weiterhin schneller wachsen als die politischen und technischen Instrumente zu ihrer Kontrolle.
Entdecke die Welt von Apple: leistungsstarke Technik für Kreative, Unternehmer und den digitalen Alltag. Ob MacBook Pro, iPad oder Zubehör: Apple-Produkte stehen seit Jahren für hochwertige Verarbeitung, starke Performance und ein durchdachtes Ökosystem. Hochwertige Apple-Geräte rund um MacBook Pro, iPad und weiteres Apple-Zubehör findest du bei Amazon*.
Sladjan ist Webdesigner, Frontend-Entwickler und WordPress-Experte mit dem Schwerpunkt Full Site Editing (FSE). Als Webenthusiast arbeitet er seit 2006 mit HTML und CSS und ab 2016 mit WordPress. Seit 2018 arbeitet er mit WooCommerce und erstellt kleine, minimalistische und responsive Websites sowie kleinere Online-Shops. Seit 2019 ist er Zertifizierter SEM-Manager & Webanalyst (Webmasters Akademie) und seit 2024 Geprüfter Webdesigner (OfG).
Schreiben Sie einen Kommentar