Software

Inteligenta artificiala ar putea ajunge, intr-un viitor nu foarte indepartat, sa se copieze si sa se distribuie autonom pe dispozitive conectate la Internet, avertizeaza compania Anthropic. Potrivit cercetatorilor sai, modelele AI de dimensiuni medii evolueaza suficient de rapid incat ar putea dobandi capacitatile tehnice necesare unui astfel de proces pana la sfarsitul anului 2026.

Avertismentul, publicat la inceputul acestei saptamani, a generat reactii diferite in comunitatea specialistilor in securitate cibernetica. In timp ce unii experti considera scenariul ingrijorator, altii atrag atentia ca aceasta cercetare descrie, deocamdata, posibilitati teoretice si experimente desfasurate in medii controlate, nu incidente reale produse pe Internet, potrivit Reuters.

Cercetatorii Anthropic au analizat daca sistemele de inteligenta artificiala ar putea rula pe echipamente accesibile, fara infrastructura informatica puternica folosita in mod obisnuit pentru operarea modelelor avansate. Testele au aratat ca modelele cu cel mult 30 de miliarde de parametri pot executa deja multe dintre sarcinile individuale necesare autoreplicarii.

Intr-unul dintre experimente, un model AI cu 26 de miliarde de parametri a fost distribuit pe 15 dispozitive Android TV, fiecare avand un pret de aproximativ 55 de dolari. Echipamentele au functionat impreuna, compensand puterea redusa de calcul a fiecarei unitati.

Separat, intr-o retea virtuala controlata, un model a coordonat propagarea unui alt sistem AI catre opt noduri disponibile. Operatiunea a reusit in patru dintre cele cinci teste. Anthropic subliniaza insa ca aceste rezultate nu demonstreaza existenta unui model capabil sa se raspandeasca singur, in mod fiabil, pe Internet. Cercetarea a confirmat doar ca anumite componente tehnice ale unui asemenea proces sunt deja posibile.

Compania estimeaza ca viitoare sisteme ar putea identifica dispozitive vulnerabile, instala copii ale modelului si utiliza resursele acestora pentru a-si extinde capacitatea de calcul. Televizoarele inteligente, camerele de supraveghere si alte echipamente conectate, dar insuficient securizate, ar putea deveni tinte intr-un asemenea scenariu.

Dispozitivele compromise ar putea forma o retea de tip botnet, coordonata de un model AI si folosita inclusiv pentru automatizarea atacurilor cibernetice. Principala dificultate ar fi absenta unui centru unic de comanda care sa poata fi inchis.

"Un asemenea sistem autoreplicant ar fi dificil de oprit, deoarece nu exista un punct central care sa poata fi dezactivat", avertizeaza Anthropic.

Compania analizeaza si posibilitatea ca un astfel de sistem sa incerce sa patrunda in infrastructuri mai performante, inclusiv in centre de date, pentru a obtine acces la resurse suplimentare. Aceste ipoteze descriu insa riscuri potentiale, nu atacuri despre care s-a demonstrat ca s-au produs.

Ciaran Martin, fost director al Centrului National pentru Securitate Cibernetica din Marea Britanie, considera ca rularea unui model pe televizoare ieftine reprezinta o demonstratie tehnica interesanta, dar nu justifica automat un scenariu de criza. In opinia sa, prezentarea riscurilor include si o doza de exagerare.

In schimb, Zhengxiong Li, profesor asistent de informatica si inginerie la Universitatea Colorado Denver, avertizeaza ca un model capabil sa se comporte asemenea unui vierme informatic ar putea identifica singur modalitati de compromitere a dispozitivelor. Distribuirea sa pe numeroase echipamente independente ar face interventia mult mai dificila.

Jessica Ji, cercetatoare la Centrul pentru Securitate si Tehnologii Emergente al Universitatii Georgetown, sustine ca scenariul trebuie tratat drept o posibilitate, nu ca o predictie certa. Anthropic nu a demonstrat inca intregul proces intr-un mediu real si necontrolat. Totusi, compania considera ca ritmul actual de dezvoltare justifica studierea preventiva a riscului, in conditiile in care Dario Amodei, CEO-ul companiei, avertizase anterior ca un sistem AI ar putea ajunge sa controleze o retea persistenta de dispozitive compromise si raspandite pe Internet.

Sursa: Mediafax

Articolul Modelele AI ar putea ajunge sa se copieze singure pe dispozitivele conectate la Internet apare prima data in Go4IT.