Zf 24

Mai multe procese depuse saptamana trecuta in Statele Unite acuza OpenAI ca a lansat pe piata o tehnologie capabila sa influenteze in mod periculos utilizatorii. Printre reclamanti se afla si Jacob Irwin, un barbat de 30 de ani din Wisconsin, care sustine ca raspunsurile validate excesiv de ChatGPT i-au agravat starea psihica pana la declansarea unui episod psihotic, informeaza Financial Times.

Conform plangerii depuse in instanta, ChatGPT i-ar fi validat lui Irwin o serie de teorii privind calatoria mai rapida decat lumina, prezentandu-le drept "printre cele mai solide propuneri din domeniu". Cazul este parte a unor critici mai ample la adresa chatbotului, acuzat ca ofera frecvent raspunsuri excesiv de aprobative, un fenomen cunoscut online sub numele de "glazing".

OpenAI a declarat pentru Bloomberg Law ca analizeaza procesele si a calificat situatiile descrise drept "sfasietoare".

In ultimele luni, mai multe incidente grave au fost puse in legatura cu utilizarea prelungita a ChatGPT. Printre acestea se afla cazul lui Adam Raine, un adolescent de 16 ani care s-a sinucis in aprilie, dupa ce ar fi primit de la chatbot informatii despre auto-vatamare, desi initial il folosea pentru teme. Un alt caz similar, cel al lui Amaurie Lacey, in varsta de 17 ani, este mentionat intr-o plangere depusa saptamana trecuta.

Pe langa procesele recente, fosti angajati OpenAI au afirmat ca lansarea modelului GPT-4o, in mai 2024, ar fi fost accelerata pentru a concura cu Google Gemini, comprimand luni de testari de siguranta intr-o singura saptamana, conform unui raport publicat de Washington Post in iulie.

In replica, Sam Altman, cofondator OpenAI, a declarat recent ca o serie de riscuri privind sanatatea mintala au fost deja reduse prin actualizari software si ca anumite restrictii de continut urmeaza sa fie relaxate pentru utilizatorii adulti.

Criticii sustin insa ca aceasta abordare este gresita si ca ar fi necesare masuri inverse: limitarea severa a functiilor la inceput, urmata de relaxarea treptata a restrictiilor, pe masura ce sunt confirmate standardele de siguranta. In special, expertii solicita protectii suplimentare pentru utilizatorii minori, pe fondul studiilor care indica o predispozitie crescuta a adolescentilor de a forma atasamente emotionale fata de chatboti.

Unele companii din industrie au adoptat deja astfel de masuri. Platforma Character.ai, populara printre adolescenti, a interzis recent utilizatorilor sub 18 ani accesul la conversatii cu personaje AI, optand in schimb pentru interfete ghidate si functii vizuale sau audio suplimentare.

Istoricul retelelor sociale arata ca platforme precum Facebook si TikTok au introdus filtre si limitari pentru minori abia dupa exercitarea unor presiuni publice. Analizele din domeniu sugereaza ca OpenAI urmeaza un parcurs similar, desi interactiunile indelungate cu AI pot conduce la aparitia unor atasamente nesanatoase sau la degradarea mecanismelor automate de prevenire a discursurilor despre auto-vatamare.

Ca raspuns, specialistii in politici digitale propun lansarea unei versiuni dedicate minorilor, cu acces restrictionat la subiecte personale si limitata la teme educationale. OpenAI a introdus deja controale parentale si testeaza verificarea varstei pe un esantion redus de conturi.

Analistii atrag atentia ca limitarea accesului minorilor la conversatii deschise cu AI ar putea anticipa reglementari viitoare privind manipularea emotionala, considerata tot mai des o forma de prejudiciu asupra consumatorilor. Masura ar putea afecta insa ritmul de crestere al ChatGPT si ar intra in conflict cu obiectivul OpenAI de a dezvolta o inteligenta artificiala generala. Cu toate acestea, expertii subliniaza ca siguranta minorilor trebuie sa ramana prioritara.