Tot mai mulți oameni întreabă chatboturile despre simptome, tratamente sau urgențe medicale. Problema este că aceste sisteme pot oferi răspunsuri plauzibile, sigure pe ele și totuși greșite, iar studiile recente arată că, în situații reale, ele nu îi ajută pe utilizatori să ia decizii mai bune decât o simplă căutare online.

Inteligența artificială a intrat rapid în viața de zi cu zi, iar sănătatea este unul dintre domeniile în care tentația de a o folosi este uriașă. Pentru mulți oameni, e mai simplu să întrebe un chatbot ce ar putea însemna o durere, o amețeală sau o dificultate de respirație decât să sune la medic sau să caute prin surse medicale clasice. Numai că aparența de siguranță poate fi înșelătoare: un comentariu publicat în eClinicalMedicine avertizează că sfaturile medicale generate de AI pot părea credibile și bine formulate, fără să fie neapărat corecte sau sigure.

Problema nu este doar că un chatbot poate greși, ci că greșește într-un mod convingător. Răspunsul poate fi fluent, ordonat și redactat într-un ton care inspiră autoritate. Tocmai asta îl face periculos: pentru un nespecialist, forma poate masca foarte ușor lipsa de acuratețe. Comentariul din eClinicalMedicine spune clar că folosirea tot mai frecventă a acestor instrumente pentru sfaturi de sănătate ridică probleme reale de siguranță publică.

Un studiu publicat în Nature Medicine a testat exact această problemă în condiții mai apropiate de viața reală. Cercetătorii au inclus 1.298 de participanți și i-au pus să folosească modele lingvistice mari pentru a identifica posibile boli și pentru a decide ce au de făcut mai departe în zece scenarii medicale construite de medici. Deși modelele, testate singure, s-au descurcat bine pe scenarii standardizate, oamenii care le-au folosit nu au luat decizii mai bune decât cei care au apelat la metode obișnuite, precum o căutare online sau propria judecată.

Aici apare una dintre cele mai importante concluzii: cunoașterea medicală a modelului nu se traduce automat în ajutor real pentru pacient. În testele de laborator, modelul poate părea competent. În viața reală însă, utilizatorul nu formulează perfect problema, nu oferă toate datele relevante și poate interpreta greșit răspunsul primit. Autorii studiului spun că există o „ruptură de comunicare în ambele sensuri”: oamenii nu știu întotdeauna ce informații trebuie să dea, iar chatboturile combină adesea recomandări bune și rele, ceea ce face dificilă alegerea conduitei corecte.

Asta înseamnă, foarte concret, că un chatbot poate rata gravitatea unei situații. Cercetătorii de la Oxford au avertizat că aceste sisteme pot da diagnostice greșite și pot eșua în recunoașterea momentelor în care este nevoie urgentă de ajutor medical. Cu alte cuvinte, problema nu este doar imprecizia, ci și falsa liniștire: pacientul poate primi un răspuns calm și aparent rațional tocmai atunci când ar trebui să meargă la medic sau la spital.

Un alt studiu, publicat în The Lancet Digital Health, arată că vulnerabilitatea acestor sisteme merge și mai departe. Cercetătorii au testat 20 de modele AI și au observat că ele sunt mai ușor păcălite de informații medicale false atunci când acestea sunt formulate în limbaj profesionist sau par să vină din surse autoritare, cum ar fi note clinice sau recomandări prezentate ca fiind medicale. Per ansamblu, modelele au preluat informații fabricate în aproximativ 32% din cazuri, dar procentul a urcat la aproape 47% atunci când falsul era introdus într-un document care arăta ca o externare medicală. În schimb, când dezinformarea venea din postări de tip Reddit, propagarea cobora la 9%.

Această constatare este esențială: AI-ul nu verifică întotdeauna adevărul unei afirmații, ci poate fi influențat de felul în care aceasta este scrisă. Dacă un neadevăr sună „medical”, „oficial” sau „profesionist”, modelul are o probabilitate mai mare să-l trateze ca valid și să-l retransmită utilizatorului. În sănătate, acest lucru este deosebit de riscant, pentru că limbajul autoritar inspiră încredere, iar oamenii tind să creadă că un răspuns bine formulat este și corect.

De aici vine și avertismentul major pentru public: chatboturile nu trebuie tratate ca medici virtuali. Ele pot fi utile pentru explicații generale, pentru orientare de prim nivel sau pentru reformularea unor informații medicale într-un limbaj mai ușor. Dar când vine vorba despre simptome concrete, decizii de tratament sau aprecierea urgenței, dovezile disponibile sugerează că aceste instrumente nu sunt încă suficient de fiabile pentru a ghida singure pacienții. Autorii studiului din Nature Medicine spun că evaluările clasice, de tip examen sau benchmark, nu surprind dificultatea reală a interacțiunii dintre oameni și AI, iar sistemele ar trebui testate cu utilizatori reali înainte de a fi lăsate să joace un rol sensibil în sănătate.

Trebuie să ținem seama de faptul că, în sănătate, un răspuns care sună bine nu este suficient. AI-ul poate formula elegant, poate părea calm și sigur pe sine, dar asta nu garantează că a înțeles corect problema sau că recomandarea lui este bună. Iar când miza este sănătatea sau chiar viața pacientului, diferența dintre „plauzibil” și „corect” contează enorm.