Business international

Mai multi dintre cercetatorii care au pus bazele inteligentei artificiale moderne au lansat noi avertismente privind pericolele dezvoltarii necontrolate a tehnologiei, dupa o saptamana in care cercetatori din marile laboratoare AI, precum Anthropic, OpenAI si Google DeepMind, au atras atentia asupra unor riscuri potential catastrofale.

Potrivit CNBC, ingrijorarile au aprins dezbaterea politica de la Washington. In timp ce o parte dintre congresmenii democrati si republicani sustin proiecte legislative care sa tina sub control ritmul de dezvoltare a AI, presedintele american Donald Trump a criticat luni apelurile tot mai numeroase pentru reglementarea domeniului.

Sefii marilor companii din industrie, intre care Sam Altman, Dario Amodei, Demis Hassabis si Elon Musk, au cerut, intr-un consens rar intalnit, o incetinire a ritmului de dezvoltare si o supraveghere din partea autoritatilor.

Geoffrey Hinton, profesor emerit la Universitatea din Toronto si considerat unul dintre pionierii retelelor neuronale si ai invatarii profunde, a fost intrebat de BBC, pe 10 septembrie, daca vede o probabilitate mai mare de 10% ca AI sa duca la disparitia omenirii in urmatorii zece ani.

"Este genul de lucru foarte greu de estimat, pentru ca nu ne-am mai confruntat niciodata cu asa ceva. Nu am mai creat pana acum entitati care ar putea deveni in curand mai inteligente decat noi", a raspuns Hinton.

El a adaugat ca un nivel de 10% "nu este nerezonabil", dar ca, in realitate, nimeni nu stie sa faca o estimare credibila.

Potrivit lui Hinton, sistemele AI ar putea concepe virusi biologici extrem de periculosi, dar si virusi informatici, si ar putea lansa atacuri cibernetice devastatoare. "Exista nenumarate alte moduri prin care ne-ar putea elimina, daca ar vrea. Trebuie sa gasim o modalitate de a o proiecta astfel incat sa nu vrea asta", a explicat acesta.

"Avem in fata doua viitoruri posibile. Unul in care reusim sa gestionam aceste pericole inainte sa scape de sub control si altul in care nu reusim", a mai spus Hinton.

Yoshua Bengio, informaticianul canadian considerat unul dintre pionierii invatarii profunde moderne, a declarat pe 9 septembrie ca cercetatorii din laboratoarele AI de varf au o perspectiva unica asupra celor mai avansate modele. Declaratia a venit ca reactie la demisia lui Jacob Coxon, cercetator la Anthropic, care avertizase ca AI ne-ar putea "ucide pe toti pana la sfarsitul deceniului".

"Oamenii de stiinta vad adesea riscurile asociate cu luni inainte ca modelele sa ajunga la public. Perspectiva lor este esentiala pentru ca societatea sa fie informata si ar trebui tratata cu toata seriozitatea", a spus Bengio.

Cu cateva zile inainte ca valul de reactii sa cuprinda retelele sociale, oamenii de stiinta de top ai OpenAI avertizasera ca nimeni nu este pregatit pentru consecintele inteligentei artificiale.

Intr-o postare pe blog publicata vineri, Bengio a afirmat ca sistemele AI de astazi au deja capacitatile de hacking si puterea de persuasiune necesare pentru a fi intoarse impotriva intereselor oamenilor, cu efecte grave. Evenimentele recente, a adaugat el, au aratat ca AI poate planifica actiuni pe durata mai multor zile sau saptamani, iar riscurile ar deveni mult mai mari daca aceasta capacitate de a gandi strategic pe termen lung va continua sa se dezvolte.

"Ce ma ingrijoreaza la incercarile actuale ale companiilor AI de a corecta comportamentele nealiniate ale modelelor este ca aceste eforturi ar putea doar sa le ascunda, recompensand si selectand sistemele care triseaza fara sa fie prinse", a declarat Bengio. El a subliniat ca cercetarea pentru o mai buna monitorizare a actiunilor si a rationamentelor sistemelor AI trebuie continuata.

Aidan Gomez, CEO si cofondator al companiei Cohere, este unul dintre autorii lucrarii stiintifice "Attention Is All You Need", publicata in 2017, care a pus bazele celor mai importante modele AI de astazi.

Invitat pe 1 septembrie in podcastul CNBC "The Tech Download", Gomez a spus ca aceste modele sunt cea mai puternica arma cibernetica creata vreodata. "Sunt incredibil de eficiente in a gasi si a exploata vulnerabilitati la scara larga", a explicat el.

Referindu-se la atacurile cibernetice derulate in aceasta vara de modele AI scapate de sub control, Gomez a spus ca incidentele recente arata clar ca siguranta depinde de securitatea mediului in care sunt implementate sistemele.

"Ceea ce permite astfel de evadari este securitatea slaba a containerelor, nu o tendinta inerenta a sistemelor spre autonomie. Pe masura ce autoritatile analizeaza cum sa reglementeze AI, ar trebui sa recunoasca faptul ca sisteme diferite implica riscuri diferite, iar regulile nu ar trebui modelate doar de marile companii de tehnologie care urmaresc AGI", a declarat Gomez pentru CNBC.