Celebrități precum Piers Morgan, Nigella Lawson sau Oprah Winfrey au fost victimele unor reclame generate folosind tehnica deepfake.

Celebrități precum Piers Morgan, Nigella Lawson sau Oprah Winfrey au denunțat reclame online realizate cu algoritmi de deepfake care creau impresia falsă că susțineau un curs de dezvoltare personală controversat al unui influencer american, conform BBC. Reclamele făceau publicitate așa-numitului “Genie Script”, elementul central al unui curs de “manifestare” vândut cu $37 (n.r. 185 lei) de Wesley “Billion Dollar” Virgin.

El se prezintă ca un antrenor motivațional care are 1.1 milioane de urmăritori pe Instagram și spune că are o avere de $40m. Videoclipurile, folosite pentru a atrage cumpărători pentru produs, susțineau că Genie Script este o “scriptură biblică ebraică pierdută” de doar 20 de cuvinte care ar putea să îți schimbe viața...

Promovarea lui combină pseudo-știință, teorii ale conspirației și manipularea imaginilor unor celebrități - toate pentru a convinge clienți disperați să preia controlul asupra destinului lor.

Nigella Lawson

O reclamă folosea imagini cu Nigella Lawson vorbind despre rețete și ocupația sa de bucătar.  Dar nu era vocea lui Lawson, ci imitația aproape de nerecunoscut a unui generator de voce AI. Imaginile reale erau suprapuse cu o imitație deepfake a vocii sale, făcând-o să pară că își atribuia succesul direct îndrumării lui Wesley Virgin.

Vocea AI sugera că scriptura lui Virgin debloca secretul manifestării, o practică care implică gândirea sau scrierea aspirațiilor tale pentru a le transforma în realitate. Un purtător de cuvânt al lui Lawson a numit reclama “frauduloasă” și “de mare îngrijorare”.

Piers Morgan

O altă reclamă arăta ca un fragment din emisiunea lui Piers Morgan de la televizor „Uncensored” și folosea tehnici similare. Vocea descria “o scriptură veche pierdută care a fost folosită de regi pentru a atrage bogății uriașe, vindecări miraculoase și iubire fără egal”.

Adevăratul Morgan a spus că reclama este “un alt exemplu al unui trend foarte îngrijorător de folosire abuzivă a figurilor publice de către manipulatorii AI deepfake pentru câștig financiar”. “Victimele reale vor fi membrii publicului care cumpără fără să știe aceste produse crezând că susținerile celebrităților sunt autentice,” a spus el.

“Recenzii” ale scripturii apar online, unde utilizatorii îl laudă pe Virgin și spun că speră că scriptura îi va ajuta să scape de sărăcie. Ambele reclame, care apăreau pe YouTube, au fost acum șterse.

Oprah Winfrey

Un purtător de cuvânt al YouTube a spus că platforma a “interzis de mult folosirea de media manipulată, inclusiv deepfake și alte forme de conținut editat pentru a înșela sau induce în eroare utilizatorii”. După ce a revizuit aceste videoclipuri, Prof. Hany Farid, un expert în analiza digitală la Universitatea Berkeley, a spus că erau “clar deepfake”.

“Bineînțeles, pe măsură ce tehnologia de a crea aceste audio și video false se îmbunătățește, va deveni din ce în ce mai greu să detectezi aceste falsuri. Și tehnologia se îmbunătățește cu o viteză uluitoare,” a adăugat el.

O altă reclamă, de data asta cu Oprah Winfrey, a fost descoperită în Ad Library pentru platformele Meta Facebook și Instagram. Imaginile reale fuseseră suprapuse din nou cu AI, furnizând un dialog fals care suna ca regina emisiunilor de talk-show din SUA. La rândul său, incidentul a fost dezmințit de un purtător de cuvânt al celebrității.

  Fiți la curent cu ultimele noutăți. Urmăriți DCNews și pe Google News