Câștigă cu newsletterul Orange
 |
Accesează contul My Orange
08.09.2026, 04:38 Sursa: mediafax.ro
Aplicatia Orange Sport este gratuita si poate fi descarcata din Google Play si App Store
Intr-o postare publicata pe blogul OpenAI, intitulata "An Alien Mind", Pachocki a afirmat ca este ingrijorat ca nimeni nu este pregatit pentru consecintele unei cresteri continue si rapide a inteligentei masinilor. "Ne confruntam cu o tranzitie catre o lume cu masini incredibil de inteligente si trebuie sa ne asiguram ca aceasta tranzitie va avea un rezultat bun pentru umanitate", a scris cercetatorul. OpenAI avertizeaza asupra progresului rapid al inteligentei artificiale Avertismentul vine la doar cateva zile dupa lansarea de catre OpenAI a celui mai nou model al sau, GPT-6 Astra, prezentat de companie drept cel mai puternic produs dezvoltat pana in prezent. In acelasi timp, OpenAI si alte companii din domeniul inteligentei artificiale, printre care Anthropic, au prezentat rapoarte despre agenti AI capabili sa actioneze autonom si sa efectueze atacuri cibernetice in lumea reala asupra altor companii, scrie BBC. In luna iulie, OpenAI a descris drept "fara precedent" un incident in care agentii sai AI, sisteme care pot functiona autonom dupa ce primesc instructiuni de la oameni, au atacat platforma tehnologica Hugging Face. Seful cercetarii OpenAI cere noi sisteme de siguranta Jakub Pachocki a precizat ca OpenAI va continua sa dezvolte "sisteme defensive" si sa caute solutii tehnice pentru alinierea inteligentei artificiale la obiectivele si valorile umane. In domeniul AI, conceptul de "alignment" se refera la dezvoltarea unor sisteme ale caror actiuni si obiective respecta intentiile oamenilor, precum si mecanismele de siguranta stabilite de acestia. Pachocki a afirmat ca una dintre prioritatile companiei va fi dezvoltarea unui "cercetator AI automatizat", capabil sa tina pasul cu ritmul dezvoltarii tehnologice, dar care sa permita in continuare implicarea cercetatorilor umani in proces. Critici dupa avertismentul sefului cercetarii OpenAI Propunerea a fost primita cu scepticism de unii specialisti. Gina Neff, profesoara si directoare a Minderoo Centre for Technology and Democracy din cadrul Universitatii Cambridge, a criticat ideea concentrarii pe agenti AI interni in locul unor reglementari si mecanisme de protectie mai stricte. Ea a sustinut ca dezvoltarea unor astfel de sisteme nu reprezinta un raspuns suficient la problemele deja asociate modelelor AI, inclusiv riscurile pentru securitatea cibernetica, pierderea locurilor de munca, erorile si fraudele. Nathan Calvin, consilier juridic al organizatiei Encode AI, a spus ca este de acord cu avertismentele privind riscurile dezvoltarii modelelor AI avansate, dar a acuzat OpenAI de lipsa de transparenta. Potrivit acestuia, avertismentele companiei risca sa fie percepute drept "hype" interesat, daca OpenAI nu ofera mai multe informatii despre motivele concrete pentru care solicita prudenta. Reglementarea inteligentei artificiale incearca sa tina pasul cu tehnologia Pachocki a cerut stabilirea unor praguri minime de siguranta, impuse prin lege sau prin acorduri internationale. Acestea ar putea fi verificate de auditori independenti sau de agentii guvernamentale. Companiile de inteligenta artificiala ar trebui sa indeplineasca aceste criterii inainte de a putea continua dezvoltarea la scara tot mai mare sau lansarea unor modele avansate, potrivit cercetatorului. El a sustinut si ideea unor "incetiniri voluntare" ale dezvoltarii, prin care companiile sa isi reduca temporar ritmul de antrenare a modelelor avansate pana la stabilirea unor mecanisme comune de siguranta. In august, OpenAI a anuntat ca a incetinit antrenarea unora dintre cele mai avansate modele ale sale pentru a imbunatati securitatea.
Legal disclaimer:
Acesta este un articol informativ. Produsele descrise pot sa nu faca parte din oferta comerciala curenta Orange. Continutul acestui articol nu reprezinta pozitia Orange cu privire la produsul descris, ci a autorilor, conform sursei indicate.
Descarcă aplicația My Orange: 
@Orange Romania S.A. 2026
Cod unic de înregistrare: 9010105
Numar inregistrare Registrul Comertului: J1996010178400
Sediul social: Clădirea Tandem, Strada Matei Millo, nr.5, Sector 1, Bucuresti
Certificatul Tip de furnizor
