Videoen ligner et klip fra et talkshow.
En kendt sanger læner sig frem og fortæller, at en ny spil-app har givet hende en ekstra indtægt, og stemmen er hendes. Det er bare ikke hende.
Sådan virker fælden
Svindlerne er for alvor begyndt at bruge AI-reklamer med kendte ansigter. Da Sky News afdækkede et netværk af ulovlige spil-apps, viste det sig, at nyhedsværten Tom Cheshire var blevet kopieret med AI og brugt i en videoannonce, han aldrig havde hørt om. Appen lignede en uskyldig fitness- eller økonomi-app, men sendte brugerne videre til et casino uden licens i Caribien.
Tricket er ikke nyt, men AI har gjort det billigt. Ansigtet giver tillid, og appen eller den falske nyhedsside skjuler resten. Først når pengene er sat ind, opdager man, at de ikke kommer ud igen.
Ti sekunders kontrol
Fælden er heldigvis nem at afsløre, når man ved, hvor man skal kigge. Alle, der lovligt udbyder spil i Danmark, skal have tilladelse fra Spillemyndigheden, og myndigheden har en offentlig liste over godkendte udbydere. Et logo i bunden af siden kan kopieres på få sekunder, men et navn, der ikke står på listen, kan ikke snyde sig ind.
Forbrugersiden Bedrageri.com samler advarsler om svindel på nettet, også om falske spilsider, og rådet går igen: tjek licensen, før du indbetaler en eneste krone.
Ny lov på vej
Herhjemme har politikerne længe talt om at give folk ret til deres eget ansigt og egen stemme. GAFFA skrev om det sidste efterår, da Kulturministeriet varslede et lovforslag mod deepfakes, og den 8. oktober fremsatte kulturminister Zenia Stampe (R) forslaget. Ifølge DR må virkelighedstro digitale efterligninger af en persons udseende og stemme ikke deles uden samtykke, mens satire fortsat skal være tilladt. Ministeren har selv set et billede fra sin profil blive lavet om til en video, hvor det så ud, som om hun sagde noget.
Loven er endnu ikke vedtaget, og den stopper ikke en bagmand i udlandet. Men den skal få techgiganterne til hurtigt at fjerne ulovlige deepfakes, og det giver danske kunstnere noget at slå i bordet med.
Musikerne er råmaterialet
Musikere er oplagte ofre. De har timevis af interviews og koncertoptagelser liggende online, og det er præcis det, AI-værktøjerne skal bruge. I maj kunne GAFFA fortælle, hvordan Rihanna og Taylor Swift blev misbrugt til AI-svindel på de sociale medier. Jo mere kendt stemmen er, desto bedre virker løgnen.
Hvis du allerede har klikket
Har du indbetalt penge på en side, du ikke kan finde på Spillemyndighedens liste, så kontakt din bank med det samme og bed om at få betalingen stoppet. Svindlen kan anmeldes til politiet på politi.dk. Fylder spillet i forvejen for meget, kan du udelukke dig selv fra alle danske spilsider via ROFUS.
For musikerne er det en ny slags piratkopi: før var det sangene, der blev kopieret, nu er det stemmen. Og den kan sælge hvad som helst.