EU verschärft Regeln für KI-Deepfakes

Die EU zieht beim Einsatz künstlicher Intelligenz eine neue Grenze. Anwendungen, die ohne Zustimmung sexualisierte oder intime Deepfakes realer Personen erzeugen, sollen künftig verboten werden. Darauf haben sich Vertreter des Europäischen Parlaments und des Rates im Rahmen des sogenannten Digital Omnibus politisch geeinigt. Die EU-Kommission begrüßte die Einigung am 6. Mai 2026 ausdrücklich.

Vom Kennzeichnen zum Verbieten

Bislang setzt der AI Act bei Deepfakes vor allem auf Transparenz. KI-generierte oder manipulierte Bild-, Audio- und Videoinhalte müssen grundsätzlich als künstlich erzeugt oder verändert kenntlich gemacht werden. Mit der neuen Regelung geht die EU einen Schritt weiter: Bestimmte Anwendungen sollen nicht nur gekennzeichnet, sondern ganz vom Markt ausgeschlossen werden.

Im Fokus stehen sogenannte Nudification- oder Nudifier-Apps. Gemeint sind KI-Systeme, die Bilder so verändern oder erzeugen können, dass eine identifizierbare reale Person ohne Einwilligung nackt, sexualisiert oder in intimen Situationen dargestellt wird. Nach der Position des Europäischen Parlaments soll das Verbot nicht für KI-Systeme gelten, die wirksame Sicherheitsmaßnahmen enthalten, um solche Ausgaben zu verhindern.

Schutz vor Missbrauch im Mittelpunkt

Der Vorstoß kommt nicht aus dem Nichts. Die EU-Kommission hatte im Januar 2026 eine förmliche Untersuchung gegen X nach dem Digital Services Act eingeleitet. Dabei geht es um die Frage, ob X Risiken rund um Grok ausreichend bewertet und gemindert hat. Die Kommission nennt ausdrücklich Risiken im Zusammenhang mit manipulierten sexuell anstößigen Bildern, einschließlich Inhalten, die möglicherweise sexuellen Kindesmissbrauch darstellen.

Damit wird deutlich: Die Debatte dreht sich nicht nur um einzelne problematische Apps. Sie betrifft grundsätzlich die Frage, wie Anbieter und Betreiber generativer KI Missbrauch verhindern, technische Schutzmechanismen umsetzen und Risiken vor der Bereitstellung bewerten.

Was Unternehmen daraus ableiten sollten

Für IT-Entscheider im B2B-Umfeld ist die Entwicklung ein klares Signal. KI-Governance wird nicht erst relevant, wenn ein System offiziell als Hochrisiko-KI eingestuft wird. Unternehmen sollten bereits bei der Auswahl und Einführung generativer KI prüfen, welche Inhalte ein System erzeugen kann, welche Sicherheitsmechanismen der Anbieter nachweist und wie der Einsatz intern kontrolliert wird.

Das betrifft insbesondere Tools für Bildgenerierung, Content-Erstellung, Marketing, HR, Kundenkommunikation oder Kollaboration. Auch wenn ein Unternehmen solche Systeme nicht selbst entwickelt, bleibt die Frage, welche Anwendungen Mitarbeitende nutzen, welche Daten verarbeitet werden und ob Richtlinien für den sicheren Umgang mit KI existieren.

Mehr Zeit, aber keine Entwarnung

Parallel zur neuen Verbotsregelung sieht der Digital Omnibus auch Anpassungen bei Fristen für bestimmte Hochrisiko-KI-Systeme vor. Nach der Position des Parlaments sollen eigenständige Hochrisiko-KI-Systeme ab dem 2. Dezember 2027 unter die entsprechenden Anforderungen fallen; für KI-Systeme, die in Produkte eingebettet sind und unter sektorspezifische Sicherheitsregeln fallen, ist der 2. August 2028 vorgesehen.

Für Unternehmen bedeutet das: Es gibt an manchen Stellen mehr Vorbereitungszeit, aber keine Pause bei der Verantwortung. Die EU macht deutlich, dass sie missbräuchliche KI-Anwendungen nicht nur nachträglich sanktionieren, sondern gezielt unterbinden will.

Klare Leitplanken werden Pflicht

Die neue Einigung zeigt, wohin sich KI-Regulierung bewegt: weg von abstrakten Grundsatzdebatten, hin zu konkreten Anforderungen an technische Schutzmaßnahmen, Risikomanagement und Verantwortlichkeit. Für IT-Abteilungen, Datenschutzverantwortliche und Security-Teams wird es deshalb wichtiger, KI-Systeme nicht nur nach Leistungsfähigkeit, sondern auch nach Kontrollierbarkeit zu bewerten.

Wer KI produktiv nutzen will, braucht klare Leitplanken: zugelassene Tools, interne Nutzungsregeln, technische Schutzmechanismen, dokumentierte Prüfprozesse und Schulungen für Mitarbeitende. Denn die zentrale Frage lautet künftig nicht nur, was KI kann. Sondern auch, wie zuverlässig Unternehmen verhindern, dass sie missbraucht wird.