Opinii

Dario Amodei, CEO-ul Anthropic, a spus zilele trecute ceva ce rar auzi de la un CEO aflat in varful unei curse tehnologice de sute de miliarde de dolari: ca ar fi bine ca ritmul de dezvoltare al modelelor AI sa incetineasca. In iunie, Anthropic publicase deja un semnal similar, avertizand ca modelele se apropie de pragul de "auto-imbunatatire recursiva", adica de un stadiu in care AI-ul isi poate proiecta singur succesorii, fara interventie umana semnificativa. Compania a mers pana acolo incat a propus un acord global de incetinire, verificabil intre competitori.

Cineva care conduce compania cea mai avansata din domeniu, proaspat evaluata la aproape 1.000 de miliarde de dolari, cere lumii sa incetineasca exact dupa ce a ajuns in frunte. Suntem in situatia "trage scara dupa tine"? sau este altceva? Intrebarea pentru un consiliu de administratie ar fi: ce facem noi, ca board, cu un semnal de risc de aceasta magnitudine, venit chiar din interiorul industriei care ne vinde solutia?

In primul rand viteza de adoptie a depasit deja viteza de guvernanta. Compania insasi raporteaza ca peste 80% din codul intern e acum scris de AI, iar orizontul de sarcini pe care un model il poate duce autonom s-a dublat la fiecare patru luni. Cand un furnizor de tehnologie evolueaza mai repede decat politica ta de risc IT, ai o problema de guvernanta. Comitetele de audit si de risc trebuie sa puna intrebarea directa in sedinta: politica noastra de adoptie AI a fost scrisa acum 12-18 luni pentru un context care nu mai exista azi?

In plus, discursul "vrem sa incetinim, dar nu putem singuri" este exact structura unei probleme de actiune colectiva, genul de problema pe care bancile centrale, reglementatorii de capital sau autoritatile de concurenta le rezolva in mod obisnuit. Pentru un board dintr-o institutie reglementata, fie ca discutam despre o banca, firma de leasing, de asigurari sau din energie asta se traduce prin nevoia de anticipare si de analiza de risc.

O companie care cere public "optiunea" de a opri dezvoltarea, dar continua sa ridice capital si sa pregateasca un IPO, iti spune ceva esential despre cum se gestioneaza astazi riscul reputational si cel sistemic in paralel cu cresterea comerciala. Orice board ar trebuie sa preia aceasta practica de a comunica deschis riscurile la care este supusa compania, inainte sa devine criza.

Nu cred ca un board din Romania trebuie sa dezbata daca AI-ul va scapa de sub control. Cred insa ca orice comitet de audit sau de risc ar trebui sa aiba un raspuns clar la trei intrebari: cine din organizatie monitorizeaza activ evolutia capabilitatilor AI relevante pentru afacerea noastra; ce prag de autonomie AI declanseaza automat o discutie la nivel de board; si daca politica noastra de guvernanta AI este adecvata.

Unii dintre antreprenorii si executivii cu care discut imi spun ca aceste probleme ii depasesc tehnic si ca influenta si ca mai mult sau mai putin "ce va fi, va fi!". Eu sustin argumentat ca un nivel minim de pregatire trebuie sa existe in fiecare companie care se respecta, prin implementarea acestor doua elemente de protectie descrise mai jos:

(1) Polita de asigurare cybersecurity, negociata cu consultanta de specialitate. Fiecare companie ar trebui sa aiba o polita de asigurare cyber, contractata cu sprijinul unor specialisti care inteleg real profilul de risc al organizatiei. Fara o evaluare de risc facuta inainte, risti fie o polita subdimensionata care nu acopera incidentul care conteaza, fie una scumpa si prost calibrata pe expunerea reala a companiei.

(2) Implicarea specialistilor externi in cybersecurity, cu mandat de testare si bug bounty. Pe langa polita, companiile trebuie sa contracteze specialisti externi independenti care sa verifice periodic securitatea sistemelor. Testare activa printr-un program de bug bounty care descopera vulnerabilitatile inainte ca acestea sa fie exploatate.

Amodei poate avea sau nu dreptate cu privire la aceste riscuri sau la orizontul de timp, dar avertismentul lui e util board-urilor fiindca ne arata serios cat de mare este incertitudinea din jurul nostru. Iar incertitudinea aceasta, odata recunoscuta public de "constructor", devine responsabilitatea noastra sa o gestionam.

Ciprian Ladunca are peste 25 de ani de experienta in institutii financiare, guvernanta corporativa si strategie, mai intai ca director executiv al unor institutii financiare globale, iar astazi ca administrator neexecutiv si presedinte de comitet de audit in sectoare reglementate, precum si Managing Partner al LCL Advisory, prin care consiliaza direct fondatori si executivi ai unor companii antreprenoriale din Romania.