Mit Plattformen wie Suno und Udio lässt sich in wenigen Minuten komplett ausproduzierte Musik erstellen. Kein Wunder also, dass Musik-Streaming-Dienste aktuell mit KI-generierten Songs überflutet werden. Die Platzhirsche Apple Music, YouTube Music und Spotify machen bisher viel zu wenig, um diese ausreichend für Zuhörer zu markieren. Jetzt hat Spotify angekündigt, beim Thema KI-Inhalte nachlegen zu wollen. Ein Schritt in die richtige Richtung. c’t 3003 gibt einen Überblick, zeigt, warum Tidal und Deezer es jetzt schon besser machen und wie einfach es ist, KI-Künstler zu werden.

Transkript des Videos

(Hinweis: Dieses Transkript ist für Menschen gedacht, die das Video oben nicht schauen können oder wollen. Der Text gibt nicht alle Informationen der Bildspur wieder.)

Hört mal hier,

über die Hälfte aller auf Deezer hochgeladenen Songs ist inzwischen KI-generiert. Ja, wirklich, das sagt Deezer selbst. Und auf Spotify und Co. dürfte das alles nicht viel besser sein. Aber hä? Darf das eigentlich sein? Ist das wirklich so gewollt? Das hab ich mich auch gefragt und hab deshalb mal versucht, meine komplett KI-generierte Schrottmusik hochoffiziell zu veröffentlichen. Also auf Spotify, Apple Music und so weiter. Ob das geklappt hat, wie schwierig das war und was das gekostet hat, kommt in diesem Video. Bleibt dran.

Liebe Hackerinnen, liebe Internet-Surfer, herzlich willkommen hier bei...

KI-Musik wird allgegenwärtig

Wir müssen über KI-Musik reden. Denn die ist mittlerweile wirklich erschreckend gut. Also nicht gut im Sinne von künstlerisch wertvoll, sondern im Sinne von fällt null auf. Hier, hört euch das mal an. Das habe ich innerhalb von einer Minute mit dem KI-Modell von Suno generiert. Das würde mir definitiv nicht direkt als KI-generiert auffallen, wenn ich das in irgendeiner Playlist hören würde. Suno scheint aktuell die beliebteste Plattform zum Generieren von KI-Musik zu sein. Es existieren aber noch weitere wie Udio, Stable Audio und MusicFX. Oder auch komplett lokal auf eurem Rechner mit ACE-Step 1.5. Naja, okay. Also ganz allgemein kann man damit halt irgendwelche lustigen Meme-Songs erstellen und die zum Beispiel bei TikTok hochladen. Vielleicht habt ihr ja auch diesen Trend mitbekommen, wo Leute die Chats ihrer Ex-Partner in Songs umgewandelt haben. Hört mal. Ja, das fand ich auch schon lustig. Noch problematischer wird es, wenn KI-Musik im großen Stil produziert, hochgeladen und als echt verkauft wird. Alles mit dem Ziel, dick Cash auf Streaming-Plattformen zu machen. Und ja, wie man hier sieht, ist aktuell alles voll mit Videos, wie man angeblich kinderleicht Geld mit KI-Musik verdienen kann. „Verdiene 300 Dollar am Tag mit AI-Musik auf Spotify“. „Diese AI-Methode hat mir 3214 Dollar auf Spotify eingebracht. Volles System.“ Teilweise verkaufen Leute hier sogar Bücher mit ihren Prompts für Suno. Also, ja, uff.

Und wie ich im Intro schon meinte, sind laut Angaben von Deezer aktuell über 50 % der Songs, die hochgeladen werden, KI-generiert. Das sind grob 90.000 generierte Song-Uploads pro Tag. Vor einem Jahr waren das noch so 20.000 am Tag. Das heißt, das Problem wird größer.Natürlich ist da auch viel Müll dabei, den keiner hört, aber auch sehr erfolgreiche Künstler. Hier einmal Breaking Rust. Dieser coole Cowboy hat über 900.000 monatliche Listener. Dabei schreit das Profilbild geradezu nach KI. Genau wie die ganzen Albumcover. Ähnlich hier bei Enli. Äh, Enley? Enllly? Naja, alles komplett KI-generiert und über eine halbe Million monatliche Listener. Oder The Velvet Sundown. Die waren zwischenzeitlich so big, dass schon verschiedene Newsportale darüber berichtet hatten. Unter anderem auch die Tagesschau. Ah, und Keno hatte wohl auch anscheinend einen Song von denen unbemerkt in irgendeiner Playlist. Der fand ihn sehr gut und schämt sich ein bisschen dafür.

Okay, aber mal so richtig komisch wird es hier bei Sienna Rose. 600.000 monatliche Listener, wieder Cover, Profilbild und Text, alles komplett KI-geslobt. Aber das Krasse ist, die hat auch Social Media, genauer TikTok. Ja, und das ist voll mit generierten Promo-Clips wie dem hier. Da läuft dann immer so ein Song und da steht so Text wie: „Wenn ihr das auf eurer For-You-Page bekommt, dann habt ihr wirklich einen nischigen Musikgeschmack“. Ja, sowas kennt man auch von echten Künstlern. Und die Clips sind zwar auf den zweiten Blick eindeutig nicht echt, aber halt nur auf den zweiten. Wenn man da jetzt so mit einem halben Auge drüber scrollt, dann kann man das auch mal schnell für echt halten. Genau wie die Musik auch. Weil die Mucke ist ja wirklich nicht schlecht. Und es ploppt beim Hören jetzt bei Spotify zum Beispiel kein fetter Hinweis auf, dass da gerade Fake-Musik läuft. And das ist meiner Meinung nach das dicke Problem an der Sache. Denn dann passiert es halt, dass man KI-generierte Tracks in irgendeiner öffentlichen Playlist hört und sich denkt, den Song finde ich aber gut, den speichere ich mir mal ab.

Ja, und das stört mich. Richtig doll. Ich will nicht unbewusst komplett generierte KI-Musik hören, auch wenn die vielleicht gut ist. Ich will jederzeit genau wissen, was ich gerade höre. Und das, ohne erstmal nachforschen zu müssen. Das kann ja nicht nur um mich so gehen, oder?

Und ja, das Problem gibt es natürlich auch genauso mit Bildern, Literatur und quasi mit allen Menschen gemachten Medien aktuell. Aber da ich jetzt hier nicht vier Stunden über KI-Slop rumheulen will, bleiben wir mal erstmal bei Musik.

Und ein weiteres Problem an der Sache haben alle Medien gemeinsam, die ungefragte Nutzung von Material als Trainingsdaten für die Modelle. Da haben Suno und Co. auch schon ein bisschen Dreck am Stecken. Es ist nämlich aufgeflogen, dass allein Suno ihre Modelle mit kommerziellen Songs ohne jegliche Genehmigung trainiert hat. Und natürlich auch ohne Vergütung der Künstler. Ist ja klar. Na toll.

Musik generieren ist kinderleicht

Aber mal zurück zur Ursprungsfrage. Wie einfach ist es, KI-Künstler zu sein? Kann man einfach ein Album erstellen, zwei, drei Bilder und einen Text generieren und das dann ohne Probleme bei Spotify hochladen? Ja, sehr easy sogar.

Also wie ich schon meinte, die beliebteste Plattform ist aktuell Suno. Da kann man sich einfach ein Account erstellen und loslegen. Wenn man Suno kostenlos nutzen will, hat man 50 Credits am Tag offen. Ein Song kostet 5, also 10 Songs am Tag. Der größte Unterschied zum Bezahl-Abo ist es aber, dass man zwar Songs erstellen, aber die nicht kommerziell nutzen kann. Mit dem Pro-Plan für 8 Dollar im Monat oder dem Premier-Tarif für 24 Dollar im Monat kann man die generierten Songs auch kommerziell nutzen. Also bei Streaming-Diensten hochladen und damit potenziell auch Geld verdienen. Zusätzlich hat man in den Bezahl-Abos deutlich mehr Credits, Zugriff auf aktuelle Modelle und noch so ein paar Zusatzfunktionen. Naja, ich habe auf jeden Fall mal das Abo für 8 Dollar abgeschlossen und ja, Songs erstellen ist wirklich idiotensicher. Unter Create lassen sich hier Lyrics eintippen oder auch komplett generieren. Man will ja am besten gar nicht nachdenken. Den Musikstil kann man hier auch festlegen. Da knallt man einfach einen Prompt rein und dann kommt ein komplett ausproduzierter Song am Ende raus. Das ist natürlich jetzt nur sehr basic erklärt. Man kann da viel am Prompt und an den Lyrics und so rumbasteln. Da gibt es viele Tutorials auf YouTube und , äh, Bücher.

Fragwürdige Gesangskünste und DistroKid

Aber auch komplett ohne Fummel kommt da am Ende was raus, was zumindest von meinen Ohren nicht wirklich unterscheidbar von professionell produzierten Songs ist. Das Einzige, was ich noch ausprobiert habe, ist dieses Voice-Feature hier, wo man seine eigene Stimme in die KI-Songs verwursteln kann. Dafür muss man direkt hier live bei Suno was einsingen. Na gut, okay. Ich habe dann auf jeden Fall eine Minute lang Seals Smash Hit Kiss From A Rose sehr schlecht eingesungen und dann ist meine Stimme hier verfügbar. Aber wenn ich damit was generiere, dann hört sich das wirklich furchtbar an. Also wirklich, ich schäme mich zu Tode beim Zuhören. Hier, hört mal. Das klingt einfach wirklich, als würde ich mich beim Singen über das Lied selbst lustig machen. Also, wenn das Sinn ergibt. Das könnte an meinen Gesangskünsten liegen oder daran, dass die Funktion noch recht neu ist. Ich habe hier und da gelesen, dass viele damit jetzt nicht unbedingt tolle Ergebnisse hatten. So kann ich mir zumindest einreden, dass es nicht komplett an mir liegt.

Egal, meine Stimme kann auf jeden Fall direkt wieder in den Müll. Ich generiere mir einfach mit ein paar Klicks drei Songs für meine erste EP. Ich versuche mal so Country-Rock-mäßig. Hört mal. Also, ich muss sagen, ich finde die wirklich leider echt ein bisschen gut. Und ja, ich kann die jetzt hier einfach auch runterladen. Aber wie bekommt man die jetzt auf Streaming-Plattformen?

Das macht man standardmäßig über so Service-Tools wie beispielsweise DistroKid. Da haut man seine Songs rein, gibt die Metadaten an und dann lädt das Tool die Songs vollautomatisch auf alle ausgewählten Plattformen hoch. Das kostet hier bei DistroKid 23,99 Euro im Jahr, was okay ist, sag ich mal. In DistroKid kann man dann in einem Formular festlegen, auf welchen Plattformen das erscheinen soll und so Sachen wie Titel, Künstlernamen, Genre und Albumcover und sowas alles einstellen. Das Albumcover habe ich natürlich einfach kurz mit ChatGPT generiert, genau wie das Profilbild. Interessant wird es bei diesem Punkt hier. Enthält der Song KI-generierte Musik, Stimme oder Lyrics? Ja, tut sie. Das gebe ich auch so an. Aber was wäre, wenn ich einfach so tun würde, als wäre die Musik handgemacht?

Ja, das habe ich auch ausprobiert und auch eine Version auf Spotify, Apple Music, YouTube Music, Deezer und Tidal hochgeladen und da extra nicht angegeben, dass das Ding mit KI-erstellt wurde. YouTube, Tidal und Deezer haben eigene Systeme am Laufen, die KI-generierte Musik automatisch erkennen und dementsprechend labeln sollen. Ob das geklappt hat, sehen wir gleich.

Also, erstmal alles ausgefüllt, meine Künstlerin GlipGlob genannt, damit ich bloß nicht irgendwie aus Versehen den Namen von einem echten Artist klaue und auf Ready gedrückt. Jetzt werden die KI-Songs vollautomatisch auf Spotify und beispielsweise Deezer hochgeladen, mit Albumcover und so weiter. Und wenn sich das jetzt viele Leute anhören würden, würde ich auch Geld dafür bekommen. Naja, und das war's. Also wow, ich habe jetzt wirklich fertige Musik auf Streaming-Plattformen. Wie lange hat das jetzt gedauert? Weiß nicht, 10, 15 Minuten? Also wirklich, jeder Mensch kann so schnell Streaming-Dienste mit Musik fluten. Aber die wichtige Frage ist ja jetzt, was machen die Plattformen dagegen? Weil das kann ja eigentlich nicht sein.

Was fast alle Plattformen gemeinsam haben, ist, dass sie gegen Identitätsdiebstahl, Massenuploads und Streamingbetrug vorgehen. Also beispielsweise Spotify hat gerade erst irgendwie ganz viele Millionen von Spam-Songs gelöscht. Was aber die richtige Kennzeichnung von KI-Musik angeht, finde ich die großen Player Spotify, Apple und YouTube wirklich sehr enttäuschend. Da wird unglaublich wenig gemacht.

Spotifys lasche Kennzeichnung

Äh, ganz kurz Stopp. Ich muss hier einmal aus der Zukunft einhaken. Im nachfolgenden Teil werde ich mich nämlich doll über Spotify aufregen. Aber Spotify hat einen Tag, nachdem dieses Video hier im Kasten war, angekündigt, dass sie KI-Musik prominenter labeln wollen. Ab Mitte September sollen KI-Artists ein AI-Persona-Badge bekommen. Dabei will sich Spotify nicht mehr nur auf Selbstauskunft verlassen, sondern auch manuell Profile unter die Lupe nehmen. Das Label soll dann im Profil, Infobereich und in der Titelzeile von Playlists auftauchen, die Musik von KI-Personen enthält. Ja, das klingt schon mal gut, aber das ist sehr auf die öffentliche Identität der KI-Artists bezogen und weniger auf die konkrete Musik. Also so klingt es zumindest gerade. Was aber wirklich gut ist, Musik, die als KI gelabelt ist, soll zukünftig nicht mehr empfohlen werden. Aktuell wird da noch kein Unterschied gemacht. Und da rege ich mich jetzt gleich im nachfolgenden Teil noch ordentlich drüber auf. Also im Hinterkopf behalten, da ändert sich jetzt was.

Alles klar, genug aus der Zukunft, jetzt weiter mit leichten Anpassungen aus der Vergangenheit zu Spotify. Die setzen nämlich auf Kennzeichnung in den Metadaten. Das heißt, dass Musik dann erst als KI gekennzeichnet wird, wenn der oder diejenige, die den Song hochlädt, das angibt. Also das, was ich vorhin bei DistroKid angekreuzt hatte. Wenn das angegeben wurde, steht in den Songinfos Generative AI Audio. Aber diese Songinfos sind halt nicht offensichtlich. Die sind halt ein bisschen versteckt. Man muss halt erst auf den Song rechts klicken und dann da drauf. Und ja, im Desktop-Client stehen die hier auch noch rechts. Das ist ein bisschen prominenter, aber auch nicht super eindeutig. In der Mobile-Version muss man auch entweder auf die Songinfos oder hier nach unten scrollen, um das zu sehen. Und manchmal wird das dann auch noch blockiert von Lyrics oder Musikvideos oder sowas. Und ja, man muss halt bei jedem Song irgendwie aufmerksam sein und dann nochmal extra nachschauen. Und wenn man nur eine Playlist offen hat, dann sieht man es erst gar nicht direkt. Okay, aber was passiert eigentlich, wenn man nicht ehrlich ist? Also wenn man Musik nicht als KI labelt, obwohl sie das eigentlich ist. Also hat das irgendwelche krassen Konsequenzen? Ja, bisher noch nicht. Man verstößt dabei gegen die AGB der Plattform und DistroKid. Es könnte also passieren, dass man das nachträglich dann irgendwie noch angeben muss oder die Songs gelöscht werden. Ja, gut, wow.

Ansonsten hat Spotify seit ein paar Monaten im Künstlerprofil einen Verified-Haken. Den gibt es nur, wenn Spotify den Künstler als menschlich identifiziert hat. Dafür muss das Profil aber schon eine gewisse Größe haben, also beispielsweise über 10.000 Listener monatlich. Also falls der Haken fehlt, heißt das nicht unbedingt, dass der Künstler KI-generiert ist. Aber für kleine Künstler ist das ja trotzdem irgendwie nicht so geil und so richtig eindeutig ist das ja auch nicht. Und das Problem ist auch, dass das nicht direkt im Songtitel auftaucht. Songinfos und der Verified-Haken tauchen halt aber einfach nicht in meinen Playlisten direkt auf, also ich sehe das nicht, ohne nachzuschauen. Theoretisch muss ich jeden Künstler, jeden Song checken, um sicherzugehen, dass die Playlist, die ich gerade höre, nicht geslobt ist. Das machen andere Anbieter viel, viel besser. Zeig ich gleich. Zusätzlich sagt Spotify auch, dass Musik mit generativer KI vom Algorithmus nicht schlechter ausgespielt wird und grundsätzlich genauso behandelt wird wie echte Musik. Also landen die genauso in den Playlists, die ich gerade meinte.

Ja, hier nochmal aus der Zukunft. Das mit den Empfehlungen wollen sie ja jetzt ändern. Ich hatte trotzdem auch mal bei Spotify direkt nachgefragt, warum sie nicht automatische Systeme verwenden wollen, die Musik direkt beim Upload als KI labeln oder warum sie keine Label direkt an die Songs klatschen wollen. Ja, darüber wollten sie mir keine Auskunft geben. Hm, naja, okay.

Apple Music und YouTube Music

Weiter mit Apple Music. Da ist es nämlich ähnlich. Da können Songs beim Upload neuerdings mit einem AI-Tag versehen werden. Aber irgendwie kann man trotzdem nicht genau sehen, ob ein Song KI-generiert wurde oder nicht. Zumindest konnte ich bei den bekannten Künstlern keine Kennzeichnung irgendwo sehen. Auch nichts in den Credits.

Ich dachte zwischenzeitlich echt irgendwie, ich bin bescheuert oder so, weil diese Ankündigung groß durch die Medien ging, dass Apple jetzt dieses Tag einführt und gegen KI-Musik vorgeht und so weiter. Und ja, weiß ich nicht, da kommt man sich doch irgendwie ein bisschen verarscht vor, oder?

Ich habe auch bei Apple mal direkt nachgefragt, wo zum Geier man dieses AI-Tag sehen kann, wenn es angegeben wurde. Und auf meine Fragen wollten sie mir keine Antworten geben.

Naja, genauso bei YouTube Music. Da kann man KI-Nutzung beim Upload angeben, ähnlich auch wie bei den Videos. Angeblich hat YouTube sogar noch eigene Systeme am Laufen, die KI-generierte Inhalte basierend auf anderen Signalen erkennen sollen, falls die nicht richtig angegeben wurden. Aber ich konnte wirklich bei keinem einzigen der bekannten KI-Künstler irgendwas zur KI-Nutzung finden. Weder in den Song-Credits noch sonst irgendwo. Wow, das ist doch alles irgendwie sehr peinlich, oder? Also bei Spotify sieht man es nur, wenn man aktiv nachschaut und auch nur dann, wenn es angegeben wurde. Bei YouTube und Apple sieht man es einfach irgendwie gar nicht. Also, ja, das kann doch nicht sein.

Deezer und Tidal machen es besser

Deezer wiederum macht es meiner Meinung nach schon deutlich besser. Bei Deezer laufen auch Systeme, die KI-generierte Musik selbstständig erkennen sollen. Wenn die anschlagen, steht bei Alben ein fetter Hinweis, dass es sich hier möglicherweise um KI-Musik handelt. Und richtig gut, KI-Musik wird nicht in offizielle Playlists mit aufgenommen. Also die Chance ist deutlich geringer, dass man aus Versehen generierte Musik hört. Das ist alles schon deutlich besser als Spotify und Apple und YouTube.

Aber meiner Meinung nach perfekt macht es Tidal. Wie bei Deezer gibt es hier auch Systeme, die KI-Musik schon beim Upload erkennen sollen. Und KI-gelabelte Songs haben dieses Symbol hier neben dem Titel. Das wird auch im Player dauerhaft fett angezeigt. Und es gibt die Möglichkeit, in den Einstellungen KI-Songs komplett abzuschalten. Die lassen sich dann gar nicht erst abspielen und werden dann auch nur so ausgegraut angezeigt. Und das finde ich so genau perfekt. Man sieht immer, was KI ist und was nicht.

Ja, und ich hatte ja auch Tracks hochgeladen und sie extra nicht als KI-Musik gelabelt. Wurden die erkannt? Ja, wurden sie. Allerdings natürlich nur von Tidal und Deezer. Bei Apple und Spotify ist ja denen irgendwie eh alles egal und bei YouTube, da weiß ich ehrlich gesagt nicht, wo und wann diese Systeme aktiv sind, weil es wird ja eh nichts gelabelt.

Aber, ne, wir sehen, es ist technisch ganz klar möglich. Das passiert dann beispielsweise mit so Audiodetektoren, die das Frequenzbild eines Songs auf verdächtige Muster untersuchen, die Generatoren hinterlassen. Spotify, Apple Music und YouTube erkennen ja aber rein gar nichts. Deshalb könnte man daraus mal die These in den Raum stellen, dass sie das auch nicht erkennen wollen. Ob das wohl der Kundschaft auch so geht, dass die kein Interesse an einer Markierung von KI-Musik haben, vermutlich nicht.

Technische Details und EU-Vorgaben

Ein paar technische Details noch zur Erkennung. Es hat einige Stunden gedauert, bis das KI-Label bei Tidal und Deezer aufgetaucht ist. Bei Tidal bekam jeder einzelne Song ein eigenes Tag. Genau so sollte es sein. Und deshalb verstehe ich auch nicht, warum das bei den anderen Plattformen nicht auch so umgesetzt wird. Ja, warum denn? Übrigens, wenn man Songs aus Suno unverändert auf die Plattform wirft, steckt da ein Made with Suno Tag in den Metadaten. Auch bei der WAV-Datei. Wir haben die Tags aber auch mal testweise manuell rausgenommen bzw. die Datei als MP3 ohne Tags kompiliert mit dem gleichen Ergebnis. Deezer und Tidal erkennen KI und markieren die Songs. Alle anderen Anbieter einfach nicht. Beziehungsweise zeigen die das ja gar nicht erst an.

Um zu testen, ob auch der lokal mit ACE-Step 1.5 generierte Song erkannt wird, habe ich nochmal extra das dickere Abo von DistroKid gebucht. Damit kann man nämlich einen zweiten Künstler anlegen. Ja, aber der Song war nur eine Minute lang und wurde jetzt noch kurz vor der Video-Veröffentlichung abgelehnt, weil das ist irgendwie zu kurz. Das dauert ja leider immer ein paar Tage, bis der Song online ist. Ich lade nochmal was Längeres hoch und schreibe dann einen angepinnten Kommentar, ob das erkannt wurde oder nicht.

Was ist eigentlich mit der seit August geltenden Kennzeichnungspflicht für KI-Inhalte der EU? Ja, die besagt, dass Anbieter wie Suno dafür verantwortlich sind, KI-Songs maschinenlesbar zu markieren, damit sich die KI-Songs als solche erkennen lassen. Das ginge beispielsweise mit so einer Art digitalem Wasserzeichen, die im Song maschinenlesbar werden können. Die sollten im besten Fall unhörbar sein, aber auch nicht zu leicht zu entfernen. Das ist technisch aber mal gar nicht so einfach umzusetzen. Falls euch das genauer interessiert, ich habe euch dazu mal einen Artikel von meinem Kollegen Hartmut in die Beschreibung gepackt.

Gut, aber es gibt auch noch einen anderen großen Knackpunkt bei dieser Verordnung. Auch wenn die Plattform wie Suno ihre Songs markieren müssen, fehlt die Verpflichtung für Streaming-Plattformen, diese Wasserzeichen auszulesen und anzuzeigen. Ja, toll. Also es bringt ja wirklich herzlich wenig, wenn ein KI-Song klar erkennbar ist, aber Spotify das trotzdem nicht anzeigen muss. Naja, habt ihr schon mal aus Versehen KI-Musik gehört, ohne davon zu wissen oder juckt euch das einfach gar nicht? Schreibt es gerne mal in die Kommentare. Bis zum nächsten Mal. Tschüss.

c't 3003 ist der YouTube-Channel von c't. Die Videos auf c't 3003 sind eigenständige Inhalte und unabhängig von den Artikeln im c't Magazin. Die Redakteure Jan-Keno Janssen, Lukas Rumpler, Sahin Erengil und Pascal Schewe veröffentlichen jede Woche ein Video.

(sahe)