In einem landes­weiten, deutschen Privatradio gab es zuletzt einmal einen sehr merk­wrdigen Verkehrs­service, die nett klingende Moderatorin sagte: "Auf der A7 in Fahrt­rich­tung Hannover zwischen Hedemnden und - Zielort fehlt, bitte diesen noch eingeben - zwei Kilometer Stau".

Nein, die Moderatorin hatte nichts geraucht, in Wirk­lich­keit gibt es sie berhaupt nicht. Der Verkehrs­service des Privat­radios ist inzwischen komplett KI-generiert, der vorgegebene Text wird automatisch in Sprache umgewandelt. Auch Lokal­nach­richten werden bei vielen Radio­stationen inzwischen nicht mehr von einem Menschen einge­spro­chen. Abgesehen von so manchem Fehler wie oben beschrieben ist die Technik so ausgereift, dass der Otto Normalhrer die KI von echten, mensch­lichen Stimmen berhaupt nicht mehr unter­scheiden kann.

Menschen hinterm Mikrofon? Immer fter werden diese durch KI ausgetauscht.
Foto: SWR Doch ganz ohne die Hrer darber zu informieren, dass da gar kein Mensch mehr hinterm Mikro sitzt, geht es knftig nicht mehr: Wer KI-generierte Inhalte verf­fent­licht, muss das ab sofort kenn­zeichnen. Das besagt der neue, sogenannte "AI Act", der seit Anfang dieses Monats gilt. Die Regel gilt fr Chatbots, fr Deepfakes, fr Werbespots und alles andere knstlich Generierte. Sie betrifft also nicht nur Hrfunk und Fernsehen, sondern generell Redaktionen, Werbung­trei­bende, die Musik­branche und damit fast jede Branche, die mit Inhalten arbeitet.

Genaues wird in einem Blogeintrag zu den Mnchner Medientagen erlutert. Demzufolge kennt die KI-Verordnung zwei Rollen: den Provider als Anbieter des KI-Tools und den Deployer, das ist der Anwender. Fr die Kenn­zeich­nungs­pflicht zhlt die zweite Rolle. Wer ein KI-Tool einsetze im Spot, im Newsroom, in der Produktion sei Deployer. Alle Redaktionen, also auch die der Radio- und Fern­sehsender, tragen die Verant­wortung fr offene Kommu­nika­tion und fr die Doku­menta­tion des KI-Einsatzes.

In dem Blog wird auch IT-Sicher­heits­rechtler Dennis-Kenji Kipker zitiert, fr ihn sei der AI Act mehr als eine Pflicht­bung, wie er bei Heise schreibt: Europa schaffe einen Rahmen, der Vertrauen in KI strken kann. Und das werde umso dringender, denn Nutzung und Risiken wchsen schneller als das Risi­kobe­wusst­sein vieler Unternehmen.

KI-Inhalte werden konti­nuier­lich besser und damit schwerer erkennbar. Und genau deswegen seien entspre­chende Hinweise zur Kenn­zeich­nung umso wichtiger.

Es gibt nicht einmal ber­gangs­rege­lungen im Rahmen des AI-Acts: Ein schon lnger mit KI generierter Werbespot muss beispiels­weise seit 2. August entspre­chend gekenn­zeichnet werden, auch bereits gesendete Beitrge mssen nach­trg­lich um den Hinweis erweitert werden, wenn sie nochmal ausge­strahlt werden sollen. Jeder Inhalt braucht seinen eigenen Hinweis. Ein Hinweis etwa fr den ganzen Werbeblock reiche nicht und auch kein allgemeiner Hinweis in Impressum oder on air, dass im Medium auch mit KI gearbeitet wrde.

Es gbe aber auch Ausnahmen: Eine rein technische Optimierung mit KI wie etwa eine Rausch­reduk­tion bei einem Audio­beitrag oder eine Bild­opti­mierung brauche keine Kenn­zeich­nung. Was redak­tionelle Inhalte angeht, sei eine Kenn­zeich­nung auch nur dann ntig, wenn kein Mensch sie redak­tionell kontrol­liert oder den KI-Inhalt redigiert oder nach­bear­beitet hat. Eine reine Recht­schreib­prfung zhle dabei allerdings nicht als Kontrolle.

Auch interessant: Heimliche Film­aufnahmen mit Smart Glasses sind zunehmend ein Problem. Ist es berhaupt mglich, solche Spanner zu entlarven?