Un studiu realizat de cercetători de la Stanford și Together AI introduce o nouă unitate de măsură – „inteligență pe watt” – pentru a compara modelele lingvistice mici, care rulează local pe un calculator obișnuit, cu modelele uriașe care funcționează în centre de date specializate. Concluzia: pe un milion de cereri reale, modelele mici răspund corect în aproape 9 din 10 cazuri, iar eficiența lor energetică s-a multiplicat de peste cinci ori în doi ani, o tendință care ar putea schimba radical modul în care ne imaginăm viitorul inteligenței artificiale.

Pâna acum, cele mai multe cereri trimise către un asistent AI conversațional sunt procesate de modele uriașe („large language models”, LLM), găzduite în centre de date centralizate, cu un consum enorm de energie. Echipa de la Stanford, condusă de Jon Saad-Falcon și Avanika Narayan, a propus o întrebare simplă, dar cu implicații mari: pot modelele mici, care rulează direct pe un calculator personal sau un laptop, să rezolve majoritatea sarcinilor reale, fără să mai fie nevoie de un centru de date la distanță? Pentru a răspunde, cercetătorii au introdus metrica „inteligență pe watt” (IPW) – precizia unui model raportată la energia consumată – ca instrument unificat de comparare a capacității și a eficienței diferitelor combinații de model și hardware.

Un test pe un milion de cereri reale

Studiul a testat peste 20 de modele lingvistice locale de ultimă generație (cu cel mult 20 de miliarde de parametri activi, mult sub dimensiunea modelelor de top precum cele din spatele chatboților comerciali), pe 8 tipuri diferite de procesoare dedicate AI, inclusiv cipuri precum Apple M4 Max, folosind un set reprezentativ de peste un milion de cereri reale de conversație și raționament. Rezultatul: modelele locale au răspuns corect la 88,7% dintre aceste cereri, iar în aplicații precum vânzări, management sau divertisment, ratele de succes s-au apropiat de 100%. Performanța scade vizibil doar la sarcinile de raționament cele mai complexe, unde modelele mici țin pasul cu cele mari în aproximativ jumătate din cazuri, dar și acolo e un salt notabil față de doar 8% acum doi ani.

Paralela istorică: de la mainframe-uri la calculatorul personal

Autorii studiului trasează un paralelism istoric instructiv: între 1946 și 2009, eficiența energetică a calculatoarelor (performanță per watt) s-a dublat la fiecare an și jumătate, iar acest progres – nu o simplă creștere brută de putere de calcul – a fost cel care a permis trecerea sarcinilor informatice de pe mainframe-urile centralizate pe calculatoarele personale. Cercetătorii sugerează că AI s-ar putea afla într-un moment similar: eficiența modelelor locale („inteligență pe watt”) s-a multiplicat de 5,3 ori între 2023 și 2025, ceea ce înseamnă rezultate similare sau mai bune, cu 50-80% mai puțină energie consumată.

Ce ar putea însemna asta pentru industria AI

Dincolo de rezultatul tehnic, datele au atras atenția analiștilor financiari. Investitorul Joachim Klement (Panmure Liberum) avertizează, într-un comentariu citat de Reuters, că, dacă tendința continuă, modelele mari rămân soluția cea mai eficientă economic în doar o cincime dintre cazurile de utilizare actuale. Este o concluzie care, dacă se confirmă, ar submina o parte din premisele de business ale companiilor care operează centre de date AI la scară masivă, ale căror evaluări financiare ridicate presupun o cerere constantă pentru infrastructură centralizată costisitoare. E o interpretare economică, nu o concluzie a studiului Stanford în sine, dar arată cât de rapid poate trece o metrică tehnică obscură („inteligență pe watt”) dintr-un preprint academic în dezbaterile despre viitorul unei industrii de trilioane de dolari.

Dacă tendința se confirmă, AI-ul de pe laptopul tău s-ar putea apropia, mai rapid decât se anticipa, de ceea ce astăzi rulează doar în centre de date imense, fără să mai fie nevoie de acel centru de date.

---

Surse:
Saad-Falcon, J., Narayan, A. et al., Intelligence per Watt: Measuring Intelligence Efficiency of Local AI, Stanford University / Together AI, preprint (2025-2026). https://arxiv.org/abs/2511.07885

Klement, J., The future of AI may be small, cheap and unprofitable, Reuters, 18 iunie 2026.