Inteligența artificială are o problemă care devine tot mai mare pe măsură ce intră în spitale, bănci, mașini autonome și aplicații personale: are nevoie de date, iar aceste date sunt adesea sensibile. Cu alte cuvinte, cu cât AI devine mai utilă, cu atât crește și riscul ca informații intime sau strategice să fie expuse în timpul procesării. O echipă de la University of Technology Sydney spune că a făcut un pas important spre rezolvarea acestei tensiuni: a creat un sistem de inteligență artificială capabil să învețe și să ia decizii folosind date care rămân criptate pe tot parcursul procesului. Rezultatul a fost publicat în Nature Machine Intelligence.

Ideea este impresionantă tocmai fiindcă răstoarnă regula clasică a calculului digital. În mod obișnuit, datele sunt criptate când sunt stocate sau trimise, dar trebuie decriptate atunci când un sistem trebuie să le prelucreze. Exact acel moment al „deschiderii” datelor este una dintre marile vulnerabilități. În schimb, noul cadru folosește criptarea complet homomorfă – fully homomorphic encryption, pe scurt FHE – o metodă care permite efectuarea de calcule direct pe date criptate, fără ca acestea să fie decriptate mai întâi. IBM descrie FHE exact în acești termeni: datele rămân criptate inclusiv în timpul calculelor, iar rezultatul poate fi decriptat abia la final de către deținătorul legitim al cheii.

Aici apare noutatea specifică lucrării australiene. Cercetătorii spun că au construit primul cadru de acest tip pentru deep reinforcement learning sau învățare profundă prin consolidare, o ramură a AI în care sistemul nu doar clasifică ori prezice, ci învață să ia decizii prin încercare, eroare și recompensă. Este tipul de AI asociat, de pildă, cu controlul unor agenți autonomi, optimizarea deciziilor secvențiale sau anumite mecanisme din spatele sistemelor complexe de automatizare. În rezumatul din Nature Machine Intelligence, articolul este prezentat ca un cadru sigur de inteligență artificială care folosește criptarea homomorfă pentru a proteja informațiile sensibile în deep reinforcement learning, menținând totodată capacitatea de a lua decizii corecte.

De ce este acest lucru greu de făcut? Pentru că învățarea prin consolidare implică multe operațiuni matematice iterative, ajustări fine și optimizări succesive, iar criptarea complet homomorfă este celebră tocmai pentru costul ei computațional ridicat. Cu alte cuvinte, poți păstra datele ascunse, dar calculul devine mult mai greu. Potrivit relatării Xinhua despre comunicatul UTS, echipa a introdus un optimizator Adam compatibil cu criptarea homomorfă, tocmai pentru a depăși obstacolele vechi legate de executarea unor operațiuni matematice complexe pe date criptate.

Miza practică este foarte mare. Dacă un astfel de sistem devine robust și eficient, AI ar putea lucra cu informații extrem de sensibile fără ca furnizorul modelului, operatorul infrastructurii sau un terț compromis să „vadă” vreodată datele brute. Asta contează în sănătate, unde pot fi implicate dosare medicale; în finanțe, unde apar istorice tranzacționale și scoruri de risc; în mobilitate, unde vehiculele autonome și sistemele de trafic folosesc date comportamentale și de localizare; dar și în zona AI generative, unde unele sisteme sunt alimentate cu documente confidențiale ale utilizatorilor. Xinhua notează că autorii văd aplicații de la mașini autonome până la procesele decizionale din spatele AI generative.

Interesant este și faptul că nu doar datele de intrare rămân criptate, ci și ieșirile sistemului. Relatarea despre comunicatul UTS spune că deciziile produse de model rămân, la rândul lor, criptate și sunt decriptate și aplicate doar local, de utilizator. Asta înseamnă un control mai bun al informației pe întregul traseu: nu doar „nu vezi datele”, ci nici rezultatul intermediar nu circulă „în clar” prin infrastructuri externe.

Valoarea descoperirii nu stă numai în performanța tehnică, ci și în schimbarea de filozofie. Ani la rând, discuția despre AI și confidențialitate a mers mai ales pe ideea de a aduna date, a le anonimiza cât de cât și a spera că protecția este suficientă. Noua direcție spune altceva: poate că nu trebuie să expui datele deloc. Poate că AI-ul viitorului nu va fi doar mai puternic, ci și mai discret prin construcție. Aceasta este și ideea subliniată de profesorul asociat Hoang Dinh de la UTS, citat în comunicatul preluat de Xinhua: pe măsură ce AI intră tot mai mult în viața de zi cu zi, capacitatea ei de a învăța fără a compromite confidențialitatea personală sau organizațională nu este doar o provocare tehnică, ci și o responsabilitate etică.

Totuși, acest pas nu înseamnă că problema confidențialității în AI este rezolvată peste noapte. Criptarea homomorfă completă este puternică, dar rămâne costisitoare din punct de vedere computațional, iar trecerea de la demonstrație științifică la implementare pe scară largă cere optimizare, infrastructură și compromisuri practice. Chiar IBM, care lucrează intens în domeniu, prezintă FHE ca pe o tehnologie foarte promițătoare pentru procesarea sigură a datelor în medii neîncrezătoare, dar tocmai această formulare arată că suntem încă într-o etapă de construcție și maturizare, nu într-una de banalizare.

Dacă modelele vor putea învăța și decide fără să „deschidă” datele sensibile, atunci conflictul dintre utilitate și intimitate s-ar putea diminua semnificativ. În loc să alegem între servicii inteligente și protecția informațiilor personale, am putea începe să cerem ambele lucruri deodată. Iar într-o lume în care AI pătrunde tot mai adânc în viața cotidiană, exact aceasta ar putea fi una dintre marile condiții pentru a o accepta cu adevărat.