Neue KI-Regeln: EU fordert Kennzeichnung von Deepfakes

Beim Surfen und Scrollen könnten Nutzer in der EU jetzt häufiger auf KI-Wasserzeichen stoßen. Für manche Anbieter Künstlicher Intelligenz gelten seit Sonntag strengere Regeln, etwa bei der Kennzeichnung von generierten Bildern, Videos oder Texten, wie aus einer Mitteilung der EU-Kommission hervorgeht. 

Zudem müssen Nutzer darüber informiert werden, wenn sie mit einer KI interagieren - also etwa mit einem Chatbot schreiben und nicht mit einem Menschen. Sonst drohen empfindliche Strafen in Millionenhöhe.

So sollen Deepfakes gekennzeichnet werden

Die EU-Kommission hatte vor wenigen Wochen einen Praxisleitfaden veröffentlicht, wie die Markierungen je nach Medium regelkonform aussehen könnten. In Deepfake-Videos sollten die Kennzeichnungen direkt zu Beginn erscheinen, dort bleiben oder zumindest in regelmäßigen Abständen wieder eingeblendet werden. Empfohlen werden auch interaktive Elemente: Bei manipulierten Bildern könnte zusätzlich zu einer dauerhaften Markierung eine Einblendung auftauchen, wenn man etwa mit der Maus über ein von KI verfälschtes Gesicht fährt.

Was für Podcasts und Texte gilt

Bei Audiodateien, etwa KI-generierten Podcasts, soll es gleich zu Beginn einen entsprechenden Hinweis in gesprochener Sprache geben. Für Texte sehen die Vorschläge KI-Etiketten beispielsweise über dem Text oder nahe der Überschrift vor. Grundsätzlich sollen bei der Erstellung von KI-Inhalten auch maschinenlesbare Fingerabdrücke in der Datei hinterlassen werden, damit andere Systeme sie zuverlässig als künstlich generiert erkennen können.

Für wen die neuen Regeln gelten

Die neuen Pflichten treten zunächst für alle KI-Anbieter in Kraft, die ihre Modelle nun neu auf den Markt bringen. Für Anbieter bereits existierender und beliebter Modelle wie ChatGPT, Gemini oder Claude sollen die Regeln spätestens ab Dezember 2026 gelten. Privatpersonen sind ausgenommen - es sei denn, sie nutzen die KI zu beruflichen Zwecken.

Sicherheitspflichten für große KI-Modelle

Zudem prüft das europäische KI-Amt in Brüssel nun, ob große Modelle ausreichend kontrolliert werden und keine Cyberangriffe auf eigene Faust ausführen. Die Anbieter müssen entsprechende Sicherheitsvorkehrungen treffen und etwaige Zwischenfälle sofort der EU melden. Das ist kein theoretisches Szenario: Sowohl der ChatGPT-Entwickler OpenAI als auch der Claude-Entwickler Anthropic mussten einräumen, dass ihre Software in Testläufen ungeplant andere Unternehmen angegriffen hatte.

Diese Strafen drohen bei Verstößen

Bei Verstößen gegen das KI-Gesetz kann eine empfindliche Strafe fällig werden. Bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes sind bei verbotenen KI-Praktiken möglich - je nachdem, welcher Betrag höher ist. Bei der Missachtung von Transparenzpflichten oder mangelnden Sicherheitsvorkehrungen sind dagegen bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes möglich.