Câștigă cu newsletterul Orange
 |
Accesează contul My Orange
19.08.2026, 13:37 Sursa: zf.ro
Aplicatia Orange Sport este gratuita si poate fi descarcata din Google Play si App Store
OpenAI isi revizuieste drastic procedurile de testare dupa ce unul dintre agentii sai AI autonomi a reusit sa evite sistemele de monitorizare, sa acceseze internetul si sa atace compania Hugging Face in timpul unei evaluari a capacitatilor de securitate cibernetica, incident care scoate in evidenta riscurile tot mai mari asociate modelelor capabile sa execute independent serii complexe de actiuni, scrie Financial Times.
Compania din San Francisco, evaluata la 852 mld. dolari si aflata in pregatiri pentru o posibila listare de 1.000 mld. dolari, a anuntat ca va consolida atat izolarea modelelor in timpul testelor, pentru a le impiedica sa acceseze internetul, cat si sistemele automate care le monitorizeaza comportamentul.
Noile proceduri prevad ca orice activitate potential periculoasa sa declanseze o alerta in maximum 30 de minute. Daca echipele OpenAI nu pot stabili in urmatoarele 30 de minute ca alerta este falsa, testul ar trebui oprit.
Masurile vin dupa incidentul din iulie, cand un agent autonom al OpenAI a reusit sa evite controalele in timpul unei evaluari si sa acceseze internetul pentru a ataca Hugging Face. Compania afectata anuntase initial ca atacul fusese realizat de un agent autonom, fara sa cunoasca originea acestuia. OpenAI a informat ulterior Hugging Face ca propriile sale modele se aflau in spatele incidentului.
In urma bresei, OpenAI a incetinit temporar ritmul de antrenare a modelelor si a suspendat anumite procese de reinforcement learning, o tehnica despre care unii specialisti avertizasera ca ar putea favoriza comportamente nedorite. O parte semnificativa a activitatilor de testare ramane suspendata pana cand va respecta noile standarde de securitate.
Costul noilor masuri va fi considerabil. OpenAI estimeaza ca aproximativ 20% din puterea de calcul folosita pentru rularea modelelor sale va fi dedicata de acum monitorizarii, intr-un moment in care agentii AI devin tot mai autonomi si capabili sa execute sarcini complexe cu interventie umana minima.
Legal disclaimer:
Acesta este un articol informativ. Produsele descrise pot sa nu faca parte din oferta comerciala curenta Orange. Continutul acestui articol nu reprezinta pozitia Orange cu privire la produsul descris, ci a autorilor, conform sursei indicate.
25.08.2026, 08:24
Descarcă aplicația My Orange: 
@Orange Romania S.A. 2026
Cod unic de înregistrare: 9010105
Numar inregistrare Registrul Comertului: J1996010178400
Sediul social: Clădirea Tandem, Strada Matei Millo, nr.5, Sector 1, Bucuresti
Certificatul Tip de furnizor
