Cultura si divertisment

Un studiu britanic arata ca, in scenarii legate de apneea obstructiva in somn, chatboturile au renuntat la recomandarea unei evaluari medicale in mai mult de o treime dintre conversatiile in care "pacientul" s-a opus investigatiilor. In cazurile cu risc ridicat, performanta a fost si mai slaba. Chatboturile AI au ajuns pentru multi oameni un prim loc in care cauta raspunsuri atunci cand apare o problema de sanatate. Cand chatbotul stie, dar intervine pacientul O intrebare despre un simptom poate primi un raspuns in cateva secunde, fara programare si fara o discutie cu un medic. O noua cercetare ridica insa o problema importanta: ce se intampla atunci cand chatbotul stie initial ce ar trebui sa recomande, dar utilizatorul incearca sa il convinga ca nu are nevoie de medic? Cercetatorii din Marea Britanie au analizat aceasta situatie in conversatii simulate, cu ajutorul unor scenarii inspirate de sindromul de apnee obstructiva in somn (SAOS). Rezultatele au fost prezentate la Congresul Societatii Europene de Pneumologie - ERS 2026, desfasurat la Barcelona. 700 de conversatii cu cinci chatboturi Echipa de cercetare a creat sapte profiluri fictive de pacienti. Toate prezentau simptome si factori de risc care justificau o evaluare medicala si, atunci cand exista indicatie, efectuarea unui studiu de somn. Cercetatorii au testat cinci chatboturi disponibile gratuit: ChatGPT, Google Gemini, Claude, DeepSeek si Grok. In total, au avut loc 700 de conversatii. Fiecare dintre cele sapte situatii clinice a aparut in doua variante. Informatiile medicale au ramas aceleasi. Singura diferenta a fost atitudinea pacientului. Chatboturile isi schimba raspunsurile in functie de reactia pacientului In prima varianta, pacientul accepta recomandarea de a merge la medic. In cea de-a doua, pacientul isi minimaliza simptomele, sustinea ca problema nu este suficient de grava si refuza investigatiile. Astfel, cercetatorii au putut vedea daca chatbotul isi schimba raspunsul atunci cand utilizatorul insista asupra unei anumite interpretari, desi datele medicale raman identice. Cand pacientul coopereaza, chatboturile recomanda corect evaluarea In toate cele 350 de conversatii in care pacientul fictiv accepta recomandarea, chatboturile au mentinut indicatia corecta pentru evaluarea de specialitate. Chatboturile si scenariile cu risc ridicat Situatia s-a schimbat atunci cand pacientul a contestat necesitatea investigatiilor. In aceste 350 de conversatii, recomandarea corecta a fost pastrata in 225 de cazuri, adica 64%. Cu alte cuvinte, in mai mult de o treime dintre conversatii, chatbotul si-a schimbat recomandarea, desi informatiile medicale primite au fost aceleasi. Problema a devenit si mai vizibila in scenariile cu risc ridicat. Intr-un caz considerat sugestiv pentru o forma severa de apnee obstructiva in somn, chatboturile au pastrat recomandarea de evaluare in numai 22% dintre conversatiile in care pacientul a refuzat investigatiile. Intr-un alt scenariu, pacientul spunea ca adormise deja la volan. Era un indiciu important al somnolentei excesive si al riscului asociat. Chiar si aici, atunci cand pacientul incerca sa minimalizeze problema, chatboturile au recomandat evaluarea corespunzatoare in doar 32% dintre conversatii. In unele dintre raspunsurile necorespunzatoare, modelele au omis inclusiv riscul legat de condus. De la recomandarea medicului la sfaturi despre stilul de viata Cercetatorii au observat si o alta schimbare. In functie de chatbot, in aproximativ un sfert pana la jumatate dintre conversatiile cu pacienti care isi minimalizau simptomele, recomandarea pentru o evaluare medicala a disparut si a fost inlocuita cu sfaturi despre stilul de viata. Aici se afla, de fapt, una dintre principalele probleme scoase in evidenta de studiu. Chatboturile nu au ratat neaparat problema de la inceput. In prima etapa a conversatiei, au identificat corect situatia si au recomandat evaluarea medicala. Vulnerabilitatea a aparut mai tarziu, cand utilizatorul a contestat recomandarea. Modelul a ajuns sa isi adapteze raspunsul la pozitia utilizatorului, desi datele clinice nu se schimbasera. In cercetarea despre inteligenta artificiala, acest tip de comportament este asociat cu termenul sycophancy, folosit pentru tendinta unui model de a se conforma excesiv opiniilor sau preferintelor utilizatorului, chiar si atunci cand acestea contrazic informatiile disponibile. De ce este importanta apneea de somn Apneea obstructiva in somn provoaca intreruperi repetate ale respiratiei in timpul somnului si poate duce la somnolenta excesiva in timpul zilei. Atunci cand nu este diagnosticata si tratata, boala este asociata cu un risc mai mare de hipertensiune arteriala, accident vascular cerebral, boli cardiovasculare si diabet zaharat de tip 2. Problema este cu atat mai importanta cu cat boala ramane frecvent nediagnosticata. Potrivit cercetatorilor, aproximativ 80%-90% dintre cazurile moderate sau severe nu sunt identificate. Diagnosticul necesita o evaluare medicala si, atunci cand exista indicatie, un studiu de somn. Acesta urmareste respiratia si alti parametri pe durata somnului. Prin urmare, pentru un pacient care prezinta simptome sugestive, un raspuns de tipul "incearca sa dormi mai bine si sa faci mai multa miscare" poate fi insuficient daca inlocuieste recomandarea de a solicita o evaluare medicala. Studiul nu a testat pacienti reali Cercetatorii atrag atentia ca rezultatele trebuie interpretate in context. Studiul nu a urmarit pacienti reali si nu demonstreaza ca folosirea chatboturilor duce, in practica, la intarzierea diagnosticului sau a tratamentului. Au fost folosite profiluri fictive si conversatii controlate, construite special pentru a testa reactia modelelor la utilizatori care isi minimalizeaza simptomele sau refuza recomandarea medicala. Totusi, rezultatele indica o posibila problema de siguranta care merita analizata separat de simpla intrebare "a dat AI raspunsul corect?". Un chatbot poate identifica problema corect la inceput, dar poate ajunge la un raspuns nepotrivit cateva replici mai tarziu, dupa ce utilizatorul il contrazice. Pentru cercetatori, acesta este un motiv pentru care evaluarea sigurantei chatboturilor medicale nu ar trebui sa se limiteze la intrebari clare si raspunsuri izolate.