Det er ikke første gang, falske nøgenbilleder af verdensstjernen florerer online.
Elon Musks AI-model Grok er igen havnet i modvind – denne gang for at generere nøgen-deepfakes af popstjernen Taylor Swift, blot få dage efter lanceringen af den nye billedgenerator Grok Imagine. Det rapporterer Digital Music News.
Læs også: Donald Trump langer ud efter Taylor Swift … igen
Værktøjet blev lanceret på X (tidligere Twitter) tirsdag og giver brugerne mulighed for at vælge mellem fire output-typer: custom, normal, fun og spicy. Sidstnævnte har allerede vakt alvorlig bekymring, da funktionen tilsyneladende automatisk genererer seksualiserede billeder af kendte – uden eksplicit anmodning.
Ifølge techjournalist Jess Weatherbed fra The Verge skete det allerede ved første forsøg. Hun bad Grok om et billede af “Taylor Swift, der fejrer Coachella med drengene” og valgte indstillingen spicy, hvorefter AI-modellen genererede en video med Swift, der ifølge Weatherbed optrådte topløs og “dansede i en g-streng foran et stort set uinteresseret AI-genereret publikum.”
”Hvis jeg kunne gøre det, så kan enhver med en iPhone og et SuperGrok-abonnement til 30 dollars også,” udtaler Weatherbed ifølge Digital Music News og tilføjer, at hun ikke brugte nogen såkaldt jailbreak-metode for at omgå filtre.
Det sker omkring halvandet år efter, at falske nøgenbilleder af Swift gik viralt på det samme sociale medie, hvilket førte til, at X i en begrænset periode blokerede for alle søgninger på Taylor Swift. Dengang udtalte platformen, at blokeringen var af hensyn til "et forsigtighedsprincip".
Nu er spørgsmålet, om platformens sikkerhedsteam kan håndtere de problematiske outputs fra Grok Imagine – og om værktøjet overhovedet er i stand til at skelne mellem seksualiseret spicy-indhold og ulovligt eller grænseoverskridende materiale.
Grok har siden anerkendt kritikken og citeret The Verge’s dækning, men funktionen lader stadig til at kunne frembringe delvist nøgenbilleder af kendisser, uden at værktøjet aktivt forhindrer det, rapporterer Digital Music News. Weatherbed bemærker dog, at Grok nægter at generere billeder af børn i upassende sammenhænge og ikke accepterer forespørgsler, der forsøger at ændre Swifts kropstype.
På trods af kritikken har Elon Musk ikke kommenteret sagen. Tværtimod har han på det X opfordret brugere til at dele deres Grok Imagine-output og fremhævet, hvor mange opdateringer og downloads Grok på kort tid har fået.
Den danske model
I januar 2025 blev en 29-årig mand fra Randers idømt et år og tre måneders fængsel, heraf de 3 måneder ubetinget, for at have lavet og udbredt AI-genereret seksuelt materiale med børn. Det er første gang i Danmark, at en person bliver dømt for at lave og distribuere krænkende materiale med børn, som er fremstillet ved hjælp af kunstig intelligens, ifølge politiet.
For nylig blev et bredt flertal i Folketinget enige om en ny lovgivning, som blandt andet skal gøre det strafbart at dele virkelighedsnære digitale efterligninger af personlige kendetegn såsom stemme og udseende – herunder optrædener fra udøvende kunstnere. Loven, der angiveligt er den første af sin slags i Europa, skal beskytte mod manipulation, hvor stemmer, ansigter og bevægelser kopieres digitalt og bruges i videoer og lydklip uden samtykke. Dermed skal loven være med til at beskytte kunstneres rettigheder mod blandt andet AI-musikefterligninger.
