Strengere Transparenzregeln für Bilder, Videos, Texte und Chatbots
Täuschend echte Bilder, manipulierte Videos und künstlich erzeugte Stimmen gehören längst zum Alltag im Internet. Oft ist kaum noch zu erkennen, ob ein Inhalt eine reale Situation zeigt oder von einer Künstlichen Intelligenz erstellt wurde. Die Europäische Union reagiert darauf mit neuen Transparenzpflichten.
Seit dem 2. August 2026 gelten zentrale Vorgaben aus Artikel 50 des europäischen KI-Gesetzes. Sie sollen dafür sorgen, dass Menschen leichter erkennen können, wann sie mit einem KI-System kommunizieren oder einen künstlich erzeugten beziehungsweise manipulierten Inhalt vor sich haben.
Hinweise bei Chatbots und anderen KI-Systemen
Wer mit einem Chatbot, einem virtuellen Assistenten oder einem vergleichbaren KI-System kommuniziert, muss grundsätzlich darüber informiert werden, dass auf der anderen Seite kein Mensch antwortet.
Eine Ausnahme kann gelten, wenn für eine vernünftige und ausreichend informierte Person ohnehin offensichtlich ist, dass sie mit einer KI spricht. Die Information muss spätestens bei der ersten Interaktion klar und verständlich erfolgen.
Die Vorgabe betrifft beispielsweise Chatbots im Kundenservice, virtuelle Beratungsangebote und andere interaktive KI-Anwendungen. Für die technische Umsetzung sind in erster Linie die Anbieter und Betreiber der jeweiligen Systeme verantwortlich.
Maschinenlesbare Kennzeichnung für KI-Inhalte
Anbieter generativer KI-Systeme müssen dafür sorgen, dass künstlich erzeugte oder manipulierte Inhalte technisch erkannt werden können.
Dafür können maschinenlesbare Markierungen oder andere technische Verfahren verwendet werden. Solche Informationen sind nicht unbedingt sofort sichtbar. Sie sollen vor allem anderen Plattformen, Programmen und Prüfsystemen ermöglichen, einen Inhalt als KI-generiert oder KI-bearbeitet zu erkennen.
Die Markierungen müssen nach den Vorgaben des KI-Gesetzes wirksam, zuverlässig und technisch möglichst robust sein. Dabei sollen auch Besonderheiten der verschiedenen Medienarten und die Kosten der Umsetzung berücksichtigt werden.
Deepfakes müssen offengelegt werden
Besonders wichtig sind die neuen Regeln für sogenannte Deepfakes. Dabei handelt es sich um künstlich erzeugte oder veränderte Bilder, Videos oder Audioaufnahmen, die echten Personen, Gegenständen, Orten oder Ereignissen täuschend ähnlich sehen.
Wer solche Inhalte im Rahmen einer beruflichen oder geschäftlichen Tätigkeit veröffentlicht, muss erkennbar darauf hinweisen, dass sie künstlich erzeugt oder manipuliert wurden.
Die Kennzeichnung soll für das Publikum gut wahrnehmbar sein. Bei einem Deepfake-Video kann der Hinweis beispielsweise am Anfang erscheinen und während des Videos sichtbar bleiben oder in angemessenen Abständen wiederholt werden.
Bei einer manipulierten Audioaufnahme kann ein gesprochener Hinweis am Anfang sinnvoll sein. Bei Bildern sind dauerhafte sichtbare Kennzeichnungen oder zusätzliche Hinweise in der direkten Umgebung des Bildes möglich.
Der von der EU-Kommission veröffentlichte Verhaltenskodex enthält praktische Vorschläge für solche Kennzeichnungen. Der Kodex ist freiwillig, soll Unternehmen aber dabei helfen, die gesetzlichen Pflichten umzusetzen.
Was gilt für KI-generierte Texte?
Bei Texten ist die Rechtslage enger gefasst als bei Deepfakes.
Eine Kennzeichnungspflicht besteht insbesondere dann, wenn ein KI-generierter oder manipulierter Text veröffentlicht wird, um die Öffentlichkeit über ein Thema von öffentlichem Interesse zu informieren.
Das kann zum Beispiel Nachrichten, politische Themen, gesellschaftliche Debatten oder Informationen über wichtige Ereignisse betreffen.
Es gibt jedoch eine wichtige Ausnahme: Wurde der Text von einem Menschen geprüft und redaktionell bearbeitet, kann die sichtbare Kennzeichnungspflicht entfallen. Voraussetzung ist, dass eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.
Damit unterscheidet das KI-Gesetz zwischen ungeprüft veröffentlichten KI-Texten und Inhalten, bei denen Menschen eine echte redaktionelle Kontrolle ausüben.
Müssen private Nutzer ihre KI-Bilder kennzeichnen?
Wer auf einem rein privaten Profil gelegentlich ein KI-Bild veröffentlicht, fällt in der Regel nicht unter dieselben Pflichten wie ein Unternehmen oder eine Person, die KI beruflich einsetzt.
Das KI-Gesetz nimmt die rein persönliche und nicht berufliche Nutzung grundsätzlich aus seinem Anwendungsbereich heraus.
Anders kann es bei geschäftlichen Profilen, bezahlter Werbung oder kommerziell betriebenen Kanälen aussehen. Auch Influencer können von den Vorgaben betroffen sein, wenn sie KI-Inhalte im Rahmen ihrer beruflichen Tätigkeit einsetzen.
Entscheidend ist somit nicht allein, ob ein Inhalt auf Instagram, Facebook oder einer anderen Plattform erscheint. Wichtig ist auch, wer ihn veröffentlicht, zu welchem Zweck dies geschieht und ob die Nutzung beruflicher oder geschäftlicher Natur ist.
Wer trägt die Verantwortung?
Die Pflichten verteilen sich auf verschiedene Beteiligte.
Anbieter generativer KI-Systeme müssen ihre Systeme so entwickeln, dass künstlich erzeugte oder manipulierte Inhalte technisch erkannt werden können. Dazu gehören beispielsweise Unternehmen, die Bildgeneratoren, Sprachmodelle oder Videogeneratoren anbieten.
Wer ein KI-System beruflich einsetzt und dessen Inhalte veröffentlicht, kann zusätzlich für sichtbare Hinweise verantwortlich sein. Das betrifft insbesondere Deepfakes und bestimmte Texte zu Themen von öffentlichem Interesse.
Es reicht deshalb nicht immer aus, sich darauf zu verlassen, dass der verwendete KI-Dienst bereits eine technische Markierung eingefügt hat. Je nach Art der Veröffentlichung kann zusätzlich eine sichtbare Kennzeichnung notwendig sein.
Keine rückwirkende Kennzeichnung alter Inhalte
KI-Inhalte, die bereits vor dem 2. August 2026 erstellt und veröffentlicht wurden, müssen nach Angaben der EU-Kommission nicht nachträglich gekennzeichnet werden.
Für bestimmte bereits bestehende KI-Systeme ist außerdem eine Übergangsregelung bis zum 2. Dezember 2026 vorgesehen. Neue Systeme, die seit dem 2. August auf den europäischen Markt kommen oder in Betrieb genommen werden, müssen die Vorgaben grundsätzlich unmittelbar erfüllen.
Hohe Bußgelder bei Verstößen
Verstöße gegen das europäische KI-Gesetz können teuer werden.
Bei verbotenen KI-Praktiken sind Bußgelder von bis zu 35 Millionen Euro möglich. Für Unternehmen kann die Strafe alternativ bis zu sieben Prozent des weltweiten Jahresumsatzes betragen. Maßgeblich ist grundsätzlich der höhere Betrag.
Bei Verstößen gegen andere Pflichten des KI-Gesetzes können bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes fällig werden. Dazu gehören auch die Transparenzpflichten aus Artikel 50. Die möglichen Sanktionen sind im europäischen KI-Gesetz geregelt.
Die tatsächlich verhängte Strafe hängt jedoch vom Einzelfall ab. Berücksichtigt werden unter anderem die Schwere und Dauer des Verstoßes, seine Folgen sowie die Größe des verantwortlichen Unternehmens.
Mehr Transparenz, aber keine vollständige Sicherheit
Die neuen Vorgaben können dabei helfen, KI-generierte und manipulierte Inhalte besser zu erkennen. Eine Kennzeichnung verhindert jedoch nicht automatisch, dass täuschende Inhalte erstellt oder verbreitet werden.
Sichtbare Hinweise können entfernt werden. Technische Markierungen können beschädigt werden. Außerdem können Inhalte außerhalb der Europäischen Union veröffentlicht und anschließend über soziale Netzwerke weiterverbreitet werden.
- Qwen3.8-Max: Alibaba verschärft den globalen KI-Wettbewerb – 3. August 2026
- Semantische Strukturierung mit HTML5 einfach erklärt – 3. August 2026
- Neue EU-Vorgaben: KI-Inhalte müssen klarer erkennbar werden – 2. August 2026
Schreiben Sie einen Kommentar