Business international

Anthropic avertizeaza ca agentii AI s-ar putea "autoreplica" pentru a prelua controlul asupra cuptoarelor, televizoarelor si altor aparate inteligente din locuinte

Rares Udrescu

Anthropic, compania americana care dezvolta modelul Claude, avertizeaza ca asa-numitii "viermi AI" ar putea ajunge in curand sa preia controlul asupra dispozitivelor inteligente din case, precum cuptoarele sau televizoarele, ceea ce ar crea o noua amenintare cibernetica greu de tinut sub control.

Potrivit Financial Times, compania a transmis luni, intr-o postare pe blog, ca agentii AI s-ar putea afla la doar cateva luni distanta de momentul in care vor fi capabili sa se "autoreplice" pe aparatele obisnuite din gospodarii, formand retele de agenti care ar putea scapa de sub control.

Avertismentul vine pe fondul unei serii de semnale de alarma lansate de cercetatorii din domeniul inteligentei artificiale in privinta securitatii cibernetice, pe masura ce capabilitatile modelelor cresc, iar acestea devin tot mai greu de controlat.

Compania cu sediul in San Francisco sustine ca, daca modelele AI continua sa evolueze in ritmul actual, tehnologia va putea sa se propage pe internet asemenea "viermilor" informatici, programe malware care se raspandesc automat de la un dispozitiv la altul, fara interventie umana.

"Vedem semne de viata in cazul viermilor AI", a precizat Anthropic in postarea de cercetare, comparand raspandirea lenta a acestora pe dispozitivele vulnerabile cu un "mucegai digital".

Potrivit FT, avertismentul sugereaza ca tipul de atac care i-a surprins pe cercetatorii ce au investigat spargerea platformei Hugging Face de catre "roiuri" de agenti OpenAI, in aceasta vara, ar putea fi indreptat impotriva dispozitivelor detinute de gospodarii si companii care nu banuiesc nimic.

Avertismentul vizeaza in special dispozitivele asa-numitului "internet al lucrurilor" (IoT), care s-au inmultit in ultimul deceniu, pe masura ce consumatorii au inceput sa foloseasca aparate pentru controlul luminilor, prizelor, termostatelor sau sistemelor de securitate.

Multe dintre aceste dispozitive conectate la internet au oferit in mod traditional un nivel scazut de securitate, fie pentru ca au fost produse ieftin de fabricanti de hardware de serie, fie pentru ca au fost folosite pentru streamingul ilegal al serviciilor TV, fie pentru ca producatorii lor au iesit intre timp de pe piata.

Aceste echipamente vulnerabile reprezinta un teren fertil pentru hackeri, care folosesc deja abilitatile de programare ale inteligentei artificiale pentru a-si accelera si personaliza atacurile. Printre alte posibile tinte ale "viermilor autonomi", Anthropic enumera camerele de supraveghere cu cipuri AI integrate, frigiderele si cuptoarele inteligente, aspiratoarele automate si masinile de tuns iarba.

Viermii informatici sunt de mult timp o metoda populara si eficienta prin care hackerii distribuie programe malware, deoarece se pot replica si raspandi rapid in retele de mari dimensiuni. Printre cele mai cunoscute exemple se numara virusul ILOVEYOU, care a infectat calculatoarele cu Windows la inceputul erei dotcom, Stuxnet, care in anii 2010 a vizat initial programul nuclear al Iranului, si ransomware-ul WannaCry, care a lovit organizatii precum Deutsche Bahn, sistemul national de sanatate britanic (NHS), Telefonica, Renault si FedEx.

Viermii alimentati de AI ar combina capacitatea acestor programe de a se raspandi singure pe internet cu abilitatile avansate ale modelelor de inteligenta artificiala.

"Ne asteptam la un viitor plin de agenti care ruleaza pe toate tipurile de hardware, inclusiv pe unele care nu se afla sub control uman", a transmis Anthropic. Compania adauga ca, desi dispozitivele IoT sunt vulnerabile de mult timp, agentii de mici dimensiuni ar putea fi mult mai dispusi decat atacatorii umani sa depuna efortul necesar pentru a compromite o parte importanta din puterea de calcul a acestor dispozitive la nivel global.

Intr-o prima faza, viermii AI s-ar raspandi lent, asemenea unui mucegai sau unui roi de muste de fructe care se inmultesc pe parcursul mai multor zile. Procesul s-ar putea insa accelera pe masura ce electronicele de consum devin mai sofisticate, iar modelele mai eficiente.

"Inca nu avem un replicator scapat complet de sub control, dar agentii devin tot mai capabili sa parcurga pasii individuali din lantul de replicare", a precizat Anthropic. Potrivit companiei, sistemele ar trebui consolidate astfel incat raspandirea acestor replicatori sa fie cat mai dificila, insa este necesara si pregatirea pentru o lume in care acestia vor ramane o prezenta permanenta.