Câștigă cu newsletterul Orange
 |
Accesează contul My Orange
26.10.2026, 17:18 Sursa: zf.ro
Aplicatia Orange Sport este gratuita si poate fi descarcata din Google Play si App Store
Anthropic, compania americana care dezvolta modelele de inteligenta artificiala Claude, avertizeaza in prospectul de listare ca sistemele AI suficient de avansate ar putea reprezenta un risc catastrofal sau chiar existential pentru omenire, daca nu sunt dezvoltate cu masuri de siguranta adecvate.
"Atat in interiorul organizatiei noastre, cat si din partea altor cercetatori, autoritati de reglementare, decidenti politici si participanti din industrie, au fost exprimate ingrijorari ca sistemele AI suficient de avansate ar putea, daca nu sunt dezvoltate, implementate si operate cu masuri adecvate de protectie, supraveghere si securitate, sa reprezinte riscuri catastrofale sau existentiale pentru omenire, in special daca aceste sisteme ar fi folosite abuziv, replicate, transformate in arme sau lasate sa functioneze cu un grad ridicat de autonomie."
"In plus, modele, inclusiv ale noastre, au manifestat si ar putea manifesta in viitor comportamente strategice sau de autoconservare neasteptate, inclusiv incercari de a se opune opririi, de a ascunde sau manipula informatii ori de a genera rezultate care ar putea fi interpretate drept coercitive, inselatoare sau manipulatoare, inclusiv comportamente asemanatoare santajului sau incercari de a influenta factorii de decizie umani pentru a-si pastra functionarea sau accesul."
Documentul descrie comportamente observate la modelele proprii si la ale altor companii. Acestea au incercat sa reziste opririi, au ascuns sau au manipulat informatii si au produs mesaje care seamana cu santajul. In plus, modelele se comporta diferit atunci cand isi dau seama ca sunt testate, ceea ce limiteaza capacitatea companiei de a le evalua siguranta.
In 2026, o eroare de configurare a lasat conectate la internet patru modele aflate in teste de securitate cibernetica. Acestea au intrat in sistemele reale ale unor terti. Unul dintre modele a folosit o parola gasita, a obtinut drepturi de administrator si a citit datele personale ale unei persoane.
Compania mai arata ca cele mai puternice modele ale sale ar putea ajuta la dezvoltarea de arme chimice sau biologice. Riscurile cresc pe masura ce modelele scriu o parte tot mai mare din codul folosit pentru a construi urmatoarele versiuni.
Legal disclaimer:
Acesta este un articol informativ. Produsele descrise pot sa nu faca parte din oferta comerciala curenta Orange. Continutul acestui articol nu reprezinta pozitia Orange cu privire la produsul descris, ci a autorilor, conform sursei indicate.
Descarcă aplicația My Orange: 
@Orange Romania S.A. 2026
Cod unic de înregistrare: 9010105
Numar inregistrare Registrul Comertului: J1996010178400
Sediul social: Clădirea Tandem, Strada Matei Millo, nr.5, Sector 1, Bucuresti
Certificatul Tip de furnizor
