Stemmen muzikanten nagebootst door AI, zangers luiden noodklok: ‘Je stem wordt gehackt’

Stemmen en teksten van muzikanten worden door de opkomst van kunstmatige intelligentie (AI) nagebootst, tot grote woede van zangers. Gedupeerden, waaronder Paskal Jakobsen (Bløf), Stef Bos en Herman van Veen, luiden de noodklok en eisen naast een geldbedrag dat de gekloonde stemmen offline gehaald worden.

Mensen hebben door de ontwikkeling van AI geen muzikale achtergrond meer nodig en kunnen binnen luttele seconden een nummer maken met bekende stemmen. Volgens muzikant Van Veen is het de hoogste tijd om in te grijpen, al is hij bang dat het te laat is. “Van dit systeem komen wij niet meer af”, stelt hij in het AD.

AI-tool wordt getraind

Muziekprogramma’s als Suno en Udio trainen hun AI-tool namelijk op grote schaal met auteursrechtelijk beschermd materiaal, terwijl de artiesten er zelf niets aan verdienen en geen toestemming hebben gegeven. Daardoor houden deze programma’s zich niet aan de Europese regels, zoals opgesteld in de Digital Services Act in de zomer vorig jaar.

Udio heeft beloofd de onrechtmatige nummers te verwijderen, al komt daar in de praktijk weinig van terecht. De artiesten kunnen er weinig tegen beginnen. Udio herkent zwakheden in het systeem en mogelijk misbruik van stemmen, maar daar wordt tot op heden niets mee gedaan. De stap naar de rechter is voor de artiesten daarom nog de enige mogelijkheid.

Goedemorgen Nederland gemist? Kijk deze aflevering nu hier terug via NPO Start.

‘Stem wordt gehackt’

GroenLinks-PvdA pleit voor het aanstellen van een nieuwe minister Digitale Zaken en Transformatie, om meer grip te krijgen op misbruik van digitale technologieën. Defensiedeskundige bij HCSS Peter Wijninga noemt dat in Goedemorgen Nederland op NPO 1 een goede zaak. “Het gaat ook om digitale veiligheid en bescherming tegen cyberaanvallen. Je stem wordt nu als het ware gehackt.”

“Zij kunnen het groeiende probleem breder trekken”, sluit Citymarketeer Frits Huffnagel zich daarbij aan. “Als met jouw stem allemaal verwerpelijke boodschappen worden verkondigd en mensen denken dat dat die persoon is, dan is dat levensgevaarlijk.”

Ontvang jij al onze gratis WNL-nieuwsbrief? Meld je hier nu aan!

Stem Pim Fortuyn

Maandag werd op de sterfdag van politicus Pim Fortuyn, 22 jaar geleden, bekend dat door middel van AI met de stem van Fortuyn zijn boeken worden ingesproken. Er komen audioboeken van ‘De verweesde samenleving’, ‘De puinhopen van acht jaar Paars’, ‘De islamisering van onze cultuur’ en ‘Pim Fortuyn: de autobiografie’.

Inmiddels is een crowdfunding gestart om 20.000 euro op te halen om het project te financieren. Op de site is al een eerste versie van de AI-stem van Fortuyn te horen. Een woordvoerder van XS2Content, die het project vormgeeft, laat weten dat de audioboeken naar verwachting eind juni of begin juli af zijn. De techstartup werkt samen met Vesper Publishing, de uitgever van werk van Fortuyn, en de familie Fortuyn.

Het geld is onder meer nodig om de stem de komende tijd te optimaliseren en hem te trainen om lange teksten in te spreken. De nabestaanden van Fortuyn hebben voor dit project, in tegenstelling tot bovengenoemde artiesten, wel toestemming gegeven.

Lees ook:

Een muziekplatform boordevol kunstmatige intelligentie-liedjes: ‘Een kansloos verhaal’

Door: Rick Hartkamp