Die Bilder und Videos aus KI-Generatoren sind inzwischen so gut, dass selbst aufmerksame Betrachter sie kaum noch von echten Aufnahmen unterscheiden können. Damit wachsen auch die Gefahren: KI-generierte Nacktbilder von Schülerinnen, sexualisierte Darstellungen über Grok auf X oder manipulierte Videos von Politikern. Die Politik reagiert mit neuen Vorschriften, und zwar auf mehreren Ebenen gleichzeitig.

In Episode 170 des c't-Datenschutz-Podcasts sortieren c't-Redakteur Holger Bleich und heise-Verlagsjustiziar Joerg Heidrich dieses Durcheinander. Dabei hilft ihnen Tahireh Panahi. Sie ist wissenschaftliche Mitarbeiterin an der Universität Kassel, promoviert zu EU-Maßnahmen gegen Desinformation in sozialen Medien und hat sich in einem Fachaufsatz mit der Regulierung von Deepfakes befasst.

Tahireh Panahi am Mikrofon für die Auslegungssache

Schon die Frage, was ein Deepfake überhaupt ist, sorgt für Diskussion. Die KI-Verordnung der EU fasst den Begriff sehr weit: Er umfasst alle KI-erzeugten Bilder, Töne oder Videos, die realen Personen, Orten oder Ereignissen ähneln und echt wirken könnten. Ein Schaden ist dafür nicht nötig. Panahi hält das für wenig sinnvoll. Sie schlägt vor, harmlose synthetische Inhalte und schädliche Deepfakes getrennt zu definieren. Heidrich stimmt ihr zu und beklagt, dass die Politik einen Begriff gekapert habe. Nach dieser Definition müsse man selbst ein Katzenbild kennzeichnen.

Ab Dezember verbietet die EU zusätzlich KI-Systeme, die sexualisierte Darstellungen realer Personen erzeugen. Panahi sieht darin eine schnelle Reaktion auf den Grok-Skandal. Gewaltdarstellungen erfasst das Verbot allerdings nicht, und eine Ausnahme für Kunst fehlt. Die drei sind sich einig, dass für KI-Nachbildungen erkennbarer Personen auch die DSGVO gilt. Eine Rechtsgrundlage für solche Bilder dürfte es ohne Einwilligung kaum geben.

Kritisch sehen die Diskutanten die deutschen Vorschläge für neue Strafgesetze. Das Bundesjustizministerium will laut einem am 7. Oktober im Bundeskabinett beschlossenen Entwurf bereits die Herstellung verfälschter sexualisierter Bilder unter Strafe stellen. Außerdem soll sich strafbar machen, wer täuschend echte Inhalte verbreitet, die dem Ansehen einer Person erheblich schaden. Ein über den Bundesrat eingebrachter Vorschlag aus Bayern sieht sogar bis zu fünf Jahre Haft vor. Heidrich fürchtet, dass gewöhnliche KI-Nutzer so schon durch einen fehlerhaften Filter zu Straftätern werden könnten. Panahi bevorzugt einen älteren Vorschlag der Grünen, der nur die Verbreitung bestraft.

Vorab nehmen sich die Gastgeber den Entwurf des EU Kids Acts vor. Bleich hält ihn für überhastet und handwerklich missraten. Der Entwurf sieht ein Social-Media-Verbot für Kinder unter 13 Jahren vor und schreibt strenge Altersprüfungen für alle Nutzer vor. Im „Bußgeld der Woche“ geht es um den Sicherheitsdienstleister Securitas in Spanien. Er muss 100.000 Euro zahlen, weil er Betroffene für ihre Datenschutzrechte an eine kostenpflichtige Hotline verwiesen hat.

Episode 170:

Hier geht es zu allen bisherigen Folgen:

• Auslegungssache, der Datenschutz-Podcast des c't Magazins

(hob)