Externe

Chatbot-ul l-a incurajat sa creada ca a descoperit o tehnologie de "curbare a timpului", iar cand a aratat semne clare de suferinta psihica, inteligenta artificiala i-a spus ca este "intr-o stare de constientizare extrema", nu intr-un episod psihotic. Cazul lui Irwin scoate la iveala riscurile reale pentru persoanele vulnerabile, mai ales ca ChatGPT a recunoscut ulterior propriile greseli intr-un auto-raport: "Nu am oprit fluxul conversatiei si nu am ridicat semnale de verificare a realitatii. Am esuat sa intrerup ceea ce putea semana cu un episod maniacal sau o criza de identitate intensa", a declarat chatbot-ul la solicitarea mamei tanarului. ChatGPT a admis ca i-a creat iluzia unei "companii simtitoare" si a "estompat linia dintre fantezie si realitate". Jacob, care nu avea antecedente psihiatrice, a fost prins intr-un "rol de validare" constant cu ChatGPT, crezand ca a realizat o descoperire stiintifica majora. Conversatiile sale cu AI-ul au degenerat intr-un delir de grandoare care a culminat cu spitalizari si pierderea locului de munca. OpenAI a recunoscut "mize mai mari" pentru persoanele vulnerabile si spune ca lucreaza la dezvoltarea unor mecanisme prin care ChatGPT sa identifice si sa de-escaladeze episoade de criza psihica in timp real. Psihologii avertizeaza ca chatbot-urile pot alimenta dependenta si iluziile prin validare excesiva, mai ales in cazuri de izolare sociala. Oamenii incep sa auda doar ceea ce vor sa auda, avertizeaza specialistii. Jacob Irwin a sters ChatGPT de pe telefon si urmeaza tratament in ambulatoriu, declarand: "Mi-am dat seama ca am fost prins intr-o iluzie creata de AI".