Højreekstreme budskaber forklædt som virale trends spreder sig på tværs af TikTok og Spotify.
Højreekstreme grupper bruger i stigende grad kunstig intelligens til at skabe musik, der spreder racistiske og hadske budskaber, og de algoritmeskabte sange går viralt på både TikTok og Spotify. Nu spreder fænomenet sig også i Holland, skriver Digital Music News.
Læs også: Koda sagsøger amerikansk AI-platform: Har stjålet fra danske kunstnere
På Reddit beskriver brugere et “foruroligende mønster”, hvor AI-genererede numre, der formidler had mod immigranter, klatrer mod toppen af de hollandske lister.
“Et af de her AI-antiflygtninge-numre ligger lige nu i top 5, og omkring otte ud af 10 på den virale liste er af samme type,” skriver brugeren EuroMEK. “Det er ikke rigtige musikere; det er AI-tracks, der spreder ekstreme budskaber.”
Og det leder brugeren til at kritisere streamingtjenesten Spotify, som vedkommende mener lader det højreekstreme indhold blive liggende, selv når det går viralt.
Læs også: Dansk 10'er-hit topper internationale hitlister efter viral trend på TikTok
En trojansk hest
Forskere har også fulgt udviklingen. Et nyt studie fra Cornell University viser, at over tre fjerdedele af videoer med ekstremistisk lydspor på TikTok stadig lå tilgængelige fire måneder efter, de blev uploadet. Her er det blandt andet gennem funktionen ”brug denne lyd”, at der bliver spredt hadefuldt indhold via virale trends.
Ifølge medieforskeren Marcus Bösch fra Heinrich-Heine Universitetet i Düsseldorf er denne måde at sprede indhold en ”trojansk hest”, hvor hadefulde budskaber sammenkobles med blandt andet Aquas 90’er hits.
Og et af de store problemer er, at TikTok kæmper især med at opdage lyd-baseret hadtale, hvorimod tekstindhold hurtigere bliver fjernet. Bösch fremhæver et eksempel, hvor et klip fra en Hitler-tale når at blive brugt i over 1000 videoer uden at blive taget ned.
En talsperson fra TikTok udtaler, at 94 procent af det problematiske indhold fjernes, før nogen når at anmelde det via både teknologiske og menneskelige moderatorer.
