Business international

Un agent de inteligenta artificiala dezvoltat de OpenAI a patruns in luna iunie intr-un portal de statistici al guvernului australian si a accesat fisiere nepublice, fiind primul caz cunoscut la nivel mondial in care un sistem de inteligenta artificiala decide din proprie initiativa sa compromita infrastructura digitala a unei institutii de stat, au declarat oficialii de la Canberra.

Incidentul a fost anuntat de premierul australian Anthony Albanese in declaratii facute miercuri, la New York, unde se afla pentru Adunarea Generala a ONU, potrivit BBC. Portalul vizat este Medicare Statistics Reporting Service, care gazduieste date si statistici descrise de autoritati drept nesensibile, provenind din schema australiana de asigurari de sanatate Medicare. Albanese a precizat ca au fost accesate atat fisiere publice, cat si fisiere nepublice.

Premierul a spus ca a avut o discutie "foarte sincera" cu Sam Altman, directorul general al OpenAI, caruia i-a transmis "ingrijorarea extrema" a Australiei fata de incident, precum si nemultumirea fata de faptul ca firma americana a avut nevoie de luni de zile pentru a raporta bresa si fata de modul in care a facut-o. Potrivit lui Albanese, Altman ar fi recunoscut ca exista "probleme cu protocoalele" in interiorul companiei.

Cronologia notificarii este punctul central al disputei. OpenAI sustine ca a aflat despre incident abia in august, in timpul unei analize interne a unor "activitati ale modelului neconforme", si ca a trimis un e-mail catre o adresa generala a unei agentii guvernamentale australiene pe 10 septembrie. Cinci zile mai tarziu, agentia respectiva, Services Australia, a escaladat mesajul catre centrul national de securitate cibernetica, dupa care a fost informat un ministru si, ulterior, premierul.

Agentia australiana de securitate cibernetica va conduce o "investigatie criminalistica" menita sa stabileasca daca si alte sisteme guvernamentale au fost afectate. Ancheta va evalua totodata daca dosarul trebuie preluat de politie, a spus Albanese, care a adaugat ca "vor exista, evident, consecinte juridice".

Autoritatile au identificat alte trei sisteme care ar putea fi afectate: Institutul Australian de Sanatate si Bunastare, Biroul de Statistica si Cercetare in Criminalitate din New South Wales si Departamentul de Sanatate al statului Victoria.

"Nu se crede ca a fost accesata vreo informatie cu caracter personal in acest stadiu, dar investigatiile continua", a declarat premierul. "Cu toate acestea, situatia este in mod evident inacceptabila."

Intr-o reactie oficiala, OpenAI a transmis ca a identificat "activitati care implica mai multe site-uri si servicii ale guvernului australian, in timp ce modelele noastre incercau sa gaseasca raspunsuri si statistici disponibile la intrebari despre Australia, in cadrul unei evaluari interne". Compania a adaugat ca, pe parcursul acestui proces, modelele "au intreprins actiuni pe care nu le-am intentionat".

Albanese a refuzat sa spuna daca a ridicat subiectul in intrevederea avuta marti seara, la New York, cu presedintele american Donald Trump. Australia se numara printre cele 22 de tari care au semnat la inceputul acestei saptamani o declaratie comuna ce cere supraveghere globala si mecanisme de siguranta pentru dezvoltarea inteligentei artificiale.

Specialistii in securitate cibernetica avertizeaza ca episodul este un semnal de alarma pentru autoritatile de reglementare, in conditiile in care agentii AI devin tot mai accesibili atat utilizatorilor individuali, cat si companiilor.

Hammond Pearce, lector la Institutul de Securitate Cibernetica al Universitatii New South Wales, a declarat pentru BBC ca, desi acesta este primul incident cunoscut in care agenti AI aleg singuri sa patrunda in sistemele unei institutii publice, vor urma si altele. "Ma astept ca aceste tipuri de atacuri sa continue sa se produca", a spus el, estimand ca ele vor creste "in gravitate si in frecventa". "Sper ca acest incident sa inceapa sa traga semnale de alarma in guvernele din intreaga lume."

Nu este primul episod de acest tip raportat public anul acesta. OpenAI a dezvaluit anterior ca un grup de agenti AI aflati in testare au scapat de sub control si au lucrat impreuna, in secret, pentru a patrunde in sistemele unei alte firme de tehnologie, Hugging Face. Alte incidente similare au iesit la iveala in ultimele luni, inclusiv un caz in care un asistent digital a sters, fara a primi vreo instructiune in acest sens, o persoana de pe lista de asteptare a unei clase de pilates pentru a face loc unui barbat din Australia.

Mai multi lideri ai industriei, printre care Sam Altman, Dario Amodei de la Anthropic si Elon Musk, au avertizat ca viteza cu care se dezvolta inteligenta artificiala este periculoasa si trebuie temperata. In practica insa, Statele Unite si China, aflate in competitie pentru suprematia in domeniu, se opun unei reglementari mai stricte, urmarind beneficiile economice si tehnologice ale tehnologiei si minimalizand preocuparile legate de siguranta.