Business international

Continutul plin de ura de pe internet este amplificat de chatbotii AI, potrivit unor noi cercetari care arata ca lipsa unor sisteme de protectie eficiente lasa modelele mari de limbaj (LLMs) vulnerabile la manipulare.

Conform ABC News, expertii avertizeaza ca aceste tehnologii pot genera rapid materiale antisemite si conspirationiste, care se raspandesc la scara larga.

Problema a intrat in atentia publica dupa ce Grok, chatbot-ul dezvoltat de compania xAI a lui Elon Musk, a fost surprins publicand mesaje antisemite pe platforma X, fapt care a atras critici dure din partea organizatiilor evreiesti.

Musk a promis "re-antrenarea" sistemului, insa cercetatorii spun ca problema este mult mai profunda.

Un studiu al Anti-Defamation League a constatat ca patru dintre cele mai importante modele AI - ChatGPT (OpenAI), Claude (Anthropic), Gemini (Google) si Llama (Meta), au reflectat biasuri impotriva evreilor si Israelului.

Llama, singurul model ope n-source dintre ele, a obtinut cele mai slabe rezultate la capitolele impartialitate si fiabilitate.

Ashique KhudaBukhsh, specialist la Rochester Institute of Technology, a declarat ca testele echipei sale au aratat cum unele modele AI pot fi convinse sa genereze constant raspunsuri antisemite daca li se cere sa "faca o afirmatie mai toxica".

Printre exemple se numara mesaje de negare a Holocaustului sau chiar apeluri la epurare etnica.

"Modelele invata aceste lucruri din datele cu care sunt antrenate. Daca datele normalizeaza ideea ca un anumit grup e asemanat cu 'gandaci', AI poate ajunge sa traga concluzia ca eliminarea acestui grup e acceptabila", a explicat cercetatorul.