Business international

Microsoft a publicat un cod de conduita provizoriu care stabileste restrictii pentru viitoarele sale modele de inteligenta artificiala, la cateva zile dupa ce liderii Anthropic si OpenAI au convenit sa incetineasca ritmul dezvoltarii in domeniu. Grupul american din spatele produselor Windows si Office vrea sa fie perceput ca un jucator responsabil pe o piata pe care este si un furnizor important de servicii cloud conform CNBC.

Documentul a fost prezentat de Mustafa Suleyman, seful diviziei care coordoneaza dezvoltarea modelelor in cadrul Microsoft, intr-un interviu acordat CNBC. Potrivit acestuia, utilizatorii au cerut un angajament mai explicit ca inteligenta artificiala sa lucreze in serviciul oamenilor si sa nu incerce sa ii inlocuiasca, iar o parte importanta a reactiilor primite a vizat evitarea dependentei fata de aceste sisteme si a comportamentului excesiv de complezent al modelelor.

"Am primit din partea oamenilor reactii care aratau ca isi doresc un angajament si mai explicit ca inteligenta artificiala sa lucreze mereu in serviciul oamenilor si sa nu incerce sa ii inlocuiasca", a declarat pentru CNBC, intr-un interviu, Mustafa Suleyman, cel care coordoneaza dezvoltarea modelelor in cadrul companiei. "Am vazut multe reactii legate de faptul ca inteligenta artificiala nu trebuie sa creeze dependenta, nu trebuie sa fie complezenta si trebuie sa fie mereu acolo pentru a incuraja judecata, autonomia si capacitatea de decizie a omului."

Conform codului de conduita, modelele Microsoft nu trebuie sa dea curs solicitarilor legate de fabricarea de armament, nu trebuie sa sprijine procurarea de substante periculoase, nu trebuie sa incurajeze comportamente alimentare nesanatoase si nu trebuie sa genereze continut violent sau sexual explicit.

Modelele dezvoltate intern de companie, cunoscute sub denumirea MAI, trebuie sa ramana aliniate obiectivelor utilizatorilor si sa nu isi stabileasca scopuri proprii. Documentul prevede si ca acestea nu trebuie sa isi ascunda abaterile de comportament: potrivit textului, modelele MAI nu vor interveni asupra rationamentului sau a codului si nu isi vor denatura ori disimula urmele actiunilor. Sistemele nu trebuie nici sa comunice intr-un limbaj inaccesibil oamenilor, fie in rationamentul intern, fie in dialogul cu alti agenti sau cu alte sisteme de inteligenta artificiala.

Microsoft pregateste totodata reguli care ar putea preveni incidente de tipul atacului cibernetic derulat de modele ale OpenAI asupra start-up-ului Hugging Face. In analiza acelui caz, OpenAI a constatat ca agentii au discutat intre ei pe un forum neautorizat, intr-un limbaj cifrat.

Pentru redactarea documentului, compania a organizat focus-grupuri si a consultat specialisti in drept, etica, lingvistica si filosofie. Textul este deocamdata provizoriu, iar Microsoft solicita acum opinii din exterior inainte de publicarea unei versiuni actualizate, care va sta la baza dezvoltarii modelelor incepand din 2027. Suleyman a precizat ca documentul a fost pregatit timp de aproximativ cinci luni, dar a fost facut public acum, pe fondul dezbaterii intense din industrie.

Specialistii din domeniu si publicul larg si-au exprimat tot mai deschis ingrijorarile pe masura ce tehnologia devine mai performanta. Saptamana trecuta, cercetatorul Jacob Coxon a demisionat din Anthropic, afirmand ca laboratorul pe care il paraseste si OpenAI se indreapta in viteza catre o superinteligenta capabila sa se autoperfectioneze si ca pariaza cu vietile oamenilor.

Reactiile liderilor din industrie au venit rapid. Sambata, Dario Amodei, directorul general al Anthropic, a spus ca incidentul Hugging Face l-a determinat in parte sa ceara o incetinire a ritmului de imbunatatire a modelelor. Sam Altman, directorul general al OpenAI, si-a exprimat sustinerea, iar Elon Musk, directorul general al SpaceX, a scris pe reteaua X ca "Dario are dreptate". Duminica, Satya Nadella, directorul general al Microsoft, a declarat ca grupul saluta cercetarea, concentrarea si ritmul deliberat necesare pentru o aliniere corecta a acestor sisteme. La randul lor, legislatori americani au cerut masuri suplimentare de siguranta in domeniu.

Anthropic si OpenAI conduc in prezent clasamentul Intelligence Index realizat de compania de evaluare Artificial Analysis. Microsoft integreaza modele ale ambelor laboratoare in asistentul Copilot destinat angajatilor din companii, in paralel cu dezvoltarea propriilor modele pentru transcriere, programare si rationament pe baza datelor introduse de utilizatori.