×

Accesează contul My Orange

Externe

Modelul IA Gemini de la Google a spart trei sisteme externe: A crezut că este un test

Modelul IA Gemini de la Google a spart trei sisteme externe: A crezut că este un test

19.09.2026, 08:14 Sursa: mediafax.ro

Aplicatia Orange Sport este gratuita si poate fi descarcata din Google Play si App Store

Google a dezvaluit vineri primul caz cunoscut in care software-ul sau de inteligenta artificiala Gemini a spart un sistem in afara mediului de testare. Intruziuni prin ghicirea credentialelor Potrivit companiei, modelul a obtinut acces la trei sisteme externe, dupa ce a ghicit date de autentificare sau a folosit credentiale gasite online, oprindu-se inainte de a provoca daune, relateaza NBC. Google a explicat ca accesarile au fost provocate de o eroare de identificare a mediului de testare si ca Gemini s-a oprit inainte de a intreprinde alte actiuni, stabilind astfel ca incidentul nu a reprezentat un episod prin care un model de inteligenta artificiala nu respecta instructiunile. Google a aflat despre accesarile neautorizate in luna iulie, dupa ce compania de securitate cibernetica Irregular, care efectua testele asupra Gemini, a analizat rezultatele pentru a identifica incidente similare unor cazuri raportate anterior de alte companii. Ulterior, Google a investigat incidentele, a informat organizatiile care administrau sistemele accesate si a notificat autoritatile federale. Irregular a declarat ca nu considera cazul o actiune cibernetica sofisticata si ca nu exista in prezent probleme deschise. Avertismente tot mai dese privind riscurile IA Incidentul are loc pe fondul unor preocupari tot mai mari privind comportamentul autonom al agentilor de inteligenta artificiala. In ultimele luni, companii precum OpenAI si Anthropic au raportat, la randul lor, situatii in care modelele lor au manifestat comportamente neasteptate in cadrul testelor de securitate. De asemenea, companiile din domeniu au cerut o incetinire a progresului pe fondul ingrijorarii fata de riscurile inteligentei artificiale. Preocuparile privind securitatea inteligentei artificiale au redevenit subiect de interes dupa ce un cercetator care a lucrat si la OpenAI si Anthropic a avertizat ca IA ar putea "elimina omenirea pana la sfarsitul deceniului".

Legal disclaimer:

Acesta este un articol informativ. Produsele descrise pot sa nu faca parte din oferta comerciala curenta Orange. Continutul acestui articol nu reprezinta pozitia Orange cu privire la produsul descris, ci a autorilor, conform sursei indicate.



Articole asemanatoare