Videoclipurile deepfake, noul cosmar al retelelor sociale

Atunci cand purtatoarea de cuvant de la Casa Alba, Nancy Pelosi, a aparut intr-un videoclip modificat care i-a atacat credibilitatea, cuvintele ei au sunat incremenite si confuze. Dar reactia celor de la Facebook, Twitter si YouTube, care a alimentat raspandirea videoclipului, a dat nastere la un dezacord cu privire la modul in care companiile tech ar trebui sa-si gestioneze continutul manipulat. Pe 22 mai, o pagina de Facebook numita Politics WatchDog a postat videoclipul, care a fost incetinit pentru a da impresia ca legiuitoarea democrata din California era beata in timp ce isi spunea cuvintele. Acest videoclip a facut rapid inconjurul tuturor celor trei mari retele sociale. Intr-un fel de aparenta timpurie a  provocarilor cu care s-ar putea confrunta in timpul alegerilor din SUA in 2020, fiecare a avut raspunsuri diferite.

Facebook a permis videoclipului sa ramana pe platforma sa, dar a moderat disponibilitatea acestuia prin aplicatia care afiseaza doar articole de catre verificatorii de fapt. YouTube l-a sters. Twitter l-a lasat sa ramana pe platforma sa. Diferitele raspunsuri subliniaza provocarea pe care, mai nou, manipulează video si dezinformarea la scara mai larga o reprezinta pentru companii. Retelele sociale au reguli impotriva postarii informatiilor inselatoare intentionate, dar incearca, de asemenea, sa incurajeze exprimarea libera. Găsirea unui echilibru se dovedeste a fi un lucru dificil, mai ales din cauza faptului ca ceea ce se promite a fi un sezon electoral deosebit de disputat e pe cale sa inceapa curand. 

Joi, Comitetul de Informatii al Congresului a tinut o audiere cu privire la mijloacele de manipulare si asa-zisele videoclipuri “deepfake”, o tehnica care foloseste inteligenta artificiala pentru a crea videoclipuri cu oameni care fac sau spun ceva ce nu au facut sau spus niciodata. Videoclipul cu Pelosi, intr-o forma mai simpla de video editat, pe care unii spectatori o considera o inregistrare cat se poate de reala, nefiind privita ca un deepfake, este un exemplu al modului in care companiile social media trateaza continutul manipulat.

“Videoclipul cu Pelosi a subliniat, intr-adevar, problemele cu care se confrunta companiile social media in efectuarea acestor solicitari de judecată”, a declarat Eric Goldman, directorul Institutului de Drept High-Tech de la Universitatea Santa Clara. Videoclipul, a spus el, este inselator si a fost folosit ca o “arma”, insa a tinut sa adauge faptul ca acesta poate fi considerat un comentariu politic.

Problema se va agrava probabil. Software-ul deepfake este deja disponibil online. Primele astfel de falsuri s-au bazat pe sute sau mii de fotografii ale persoanei care au fost falsificate pentru a obtine rezultate convingatoare. Deoarece politicienii duc vieti publice, sunt disponibile mai multe fotografii despre acestia. Insa chiar si daca aceasta cerinta se schimba, Samsung a declarat recent ca a dezvoltat o tehnica ce ar permite crearea unor videoclipuri false realiste dintr-o singura imagine. Abordarea va fi, aproape sigur, inversata, facand mai usoară fabricarea de videoclipuri deepfake.

Videoclipuri deepfake au fost create cu Kim Kardashian, directorul executiv al Facebook, Mark Zuckerberg, dar si cu fostul presedinte Barack Obama. Calitatea acestor videoclipuri falsificate a ingrijorat agentiile americane de informatii ca acestea ar putea fi utilizate pentru un eventual amestec in alegeri, atat in ​​SUA, cat si in tarile aliate.