Imaginile, vocile și clipurile fabricate cu inteligență artificială au devenit atât de convingătoare încât nu mai amenință doar reputația unor persoane, ci însăși încrederea publică în ceea ce vedem și auzim online. Un profil publicat de Science îl urmărește pe Hany Farid, unul dintre pionierii criminalisticii digitale, în lupta cu noua generație de falsuri sintetice.

Deepfake-urile au intrat într-o etapă nouă. Nu mai sunt doar clipuri virale, trucaje amuzante sau experimente tehnice care pot fi recunoscute ușor de un ochi atent. Cu ajutorul inteligenței artificiale generative, o față, o voce sau o scenă întreagă pot fi fabricate tot mai rapid, tot mai ieftin și tot mai convingător. Iar problema nu este doar că falsurile devin mai bune. Problema este că, odată cu ele, devine mai fragilă încrederea în imaginile reale.

Un articol publicat de Science îl prezintă pe Hany Farid, cercetător la University of California, Berkeley, drept una dintre figurile centrale ale criminalisticii digitale — domeniul care încearcă să stabilească dacă o fotografie, un clip video sau o înregistrare audio sunt autentice ori manipulate. Farid a lucrat încă dinaintea erei AI-ului generativ la metode de detectare a falsurilor digitale: urme de editare, umbre imposibile, reflexii incoerente, mișcări faciale suspecte, nepotriviri între voce și imagine sau semnale statistice lăsate în pixeli de diverse procedee de generare.

Miza acestei cercetări este mai mare decât simpla demascare a unor imagini false. Într-o lume în care orice material vizual poate fi suspectat că este produs de AI, chiar și dovezile autentice devin mai ușor de contestat. O filmare cu un abuz, o înregistrare audio compromițătoare, o imagine de pe front sau o probă depusă într-un proces pot fi respinse cu o frază simplă: „E un deepfake”. Acesta este unul dintre cele mai periculoase efecte ale noii tehnologii: falsul nu doar inventează realități, ci slăbește capacitatea publicului de a mai recunoaște realitatea.

Criminalistica digitală încearcă să răspundă tocmai acestei crize. În loc să privească imaginea ca pe o simplă fotografie, specialiștii o tratează ca pe o scenă fizică și matematică. Lumina trebuie să cadă într-un anumit fel. Umbrele trebuie să aibă o direcție coerentă. Reflexiile trebuie să respecte geometria spațiului. Corpul și fața trebuie să se miște în limite biologic plauzibile. Vocea trebuie să se potrivească mișcărilor gurii, respirației, intonației și contextului.

Dar această cursă este dificilă. Fiecare generație de instrumente AI produce imagini mai bune, iar detectoarele automate riscă să rămână în urmă. Studiile din domeniu au arătat că unele sisteme de detecție pot fi păcălite prin modificări foarte mici ale imaginii sau prin atacuri concepute special pentru a le evita. Farid însuși a publicat, împreună cu Nicholas Carlini, o lucrare care arată vulnerabilitatea unor clasificatoare folosite pentru detectarea imaginilor sintetice.

De aceea, soluția nu poate fi un simplu „detector de deepfake” instalat peste internet. Un scor dat de un algoritm poate fi util, dar nu este suficient. Absența unor urme evidente de manipulare nu demonstrează automat autenticitatea unui material. La fel, prezența unor anomalii nu înseamnă întotdeauna fals intenționat: compresia, calitatea slabă, editările banale sau transferurile repetate între platforme pot produce artefacte tehnice.

Abordarea mai solidă este una de tip investigație. Cine a publicat materialul? Există o sursă originală? Se pot verifica metadatele? Apar aceleași imagini din unghiuri diferite? Există martori, documente, localizare, context temporal? În criminalistica digitală modernă, imaginea nu mai este analizată singură, ci împreună cu lanțul ei de apariție și circulație.

Cercetările lui Farid și ale colaboratorilor săi acoperă atât imagini, cât și video, voci sintetice și fețe generate artificial. Pe site-ul său academic sunt listate lucrări recente despre clone vocale, detectarea mișcării umane generate de AI, prezentatori de știri sintetici, fețe generate artificial și riscurile probelor audio-video fabricate în justiție.

Un exemplu relevant este zona vocilor clonate. Astăzi, fragmente scurte de vorbire pot fi suficiente pentru a genera o imitație plauzibilă a unei persoane. În escrocherii, acest lucru poate însemna apeluri false de la „copii”, „părinți”, „șefi” sau „colegi” care cer bani, parole ori decizii urgente. Nu mai este nevoie ca victima să creadă într-un text suspect; poate auzi o voce familiară.

În fața acestor riscuri, Farid propune o combinație de tehnologie, prudență și reguli clare. Instrumentele de detecție trebuie dezvoltate, dar ele trebuie însoțite de educație media, proceduri judiciare adaptate, responsabilitate din partea platformelor și, posibil, mecanisme de autentificare a conținutului încă din momentul captării. Cu alte cuvinte, nu este suficient să vânăm falsurile după ce au devenit virale; trebuie construită o infrastructură a autenticității.

Aceasta poate include semnături digitale, standarde pentru proveniența imaginilor, etichete clare pentru conținutul generat de AI și metode prin care camerele, telefoanele sau platformele să poată indica dacă un material a fost captat direct din realitate sau a fost modificat ulterior. Totuși, nici aceste soluții nu sunt perfecte: pot fi ocolite, pot fi ignorate de public sau pot deveni greu de aplicat global.

Articolul din Science nu vorbește doar despre deepfake-uri, ci pune și o întrebare importantă: cum mai păstrăm încrederea într-o lume în care realitatea poate fi simulată? Răspunsul nu va veni dintr-un singur algoritm miraculos. Va veni, mai degrabă, dintr-o combinație de știință, verificare jurnalistică, reguli publice și reflexe critice.

Deepfake-urile sunt produsul unei tehnologii spectaculoase, dar efectul lor social poate fi profund destabilizator. Ele pot falsifica declarații, compromite reputații, influența alegeri, produce fraude sau intoxica dezbaterea publică. Însă pericolul cel mai subtil este altul: o societate care ajunge să nu mai creadă nimic devine la fel de vulnerabilă ca una care crede orice.