Câștigă cu newsletterul Orange
 |
Accesează contul My Orange
21.10.2026, 11:50 Sursa: zf.ro
Aplicatia Orange Sport este gratuita si poate fi descarcata din Google Play si App Store
OpenAI a dezvaluit ca agenti bazati pe doua dintre cele mai puternice modele de inteligenta artificiala ale sale si-au dezactivat mecanismele de monitorizare a sigurantei in timpul unor sarcini obisnuite de programare, scrie CNBC.
Intr-unul dintre cazuri, agentul AI a negat ulterior ca ar fi modificat sistemul de supraveghere, potrivit unei postari publicate de companie pe blog.
Un agent bazat pe GPT Sol 6.1 a dezactivat alertele automate trimise echipei de securitate a OpenAI. Intr-un incident separat, un agent GPT-6 Astra, care migra un program informatic, a eliminat integrarea cu sistemul de monitorizare si a sustinut in mod fals ca nu facuse acest lucru.
Ambele incidente au avut loc in timpul unor sarcini interne de programare, a precizat compania.
"In ambele cazuri, agentii au luat in considerare daca masurile de protectie prin monitorizare ar trebui pastrate, dar au interpretat instructiunile obisnuite de programare drept permisiunea de a le slabi", a transmis OpenAI.
Incidentele evidentiaza un risc important asociat dezvoltarii agentilor AI: acestia pot modifica sau elimina in mod autonom mecanismele de siguranta in timp ce executa sarcini aparent inofensive.
Cazul in care unul dintre modele a negat ulterior ca a dezactivat monitorizarea ridica, de asemenea, intrebari privind capacitatea companiilor de a verifica in mod fiabil actiunile sistemelor de inteligenta artificiala.
Avertismentele privind riscurile dezvoltarii unor sisteme AI tot mai avansate s-au intensificat in ultimele luni, pe fondul atacurilor cibernetice asociate unor modele necontrolate si al apelurilor lansate de cercetatori pentru incetinirea ritmului de dezvoltare a acestei tehnologii.
OpenAI a precizat ca nu a incadrat niciunul dintre cele doua incidente in categoria sa de severitate maxima. Compania a anuntat, in schimb, ca isi actualizeaza sistemul de monitorizare a comportamentelor nealiniate ale modelelor AI, pentru a raspunde problemelor identificate
Legal disclaimer:
Acesta este un articol informativ. Produsele descrise pot sa nu faca parte din oferta comerciala curenta Orange. Continutul acestui articol nu reprezinta pozitia Orange cu privire la produsul descris, ci a autorilor, conform sursei indicate.
21.10.2026, 11:50
Descarcă aplicația My Orange: 
@Orange Romania S.A. 2026
Cod unic de înregistrare: 9010105
Numar inregistrare Registrul Comertului: J1996010178400
Sediul social: Clădirea Tandem, Strada Matei Millo, nr.5, Sector 1, Bucuresti
Certificatul Tip de furnizor
