Business international

Amanda Askell stia de cand avea 14 ani ca vrea sa se faca profesoara de filosofie. Ceea ce nu stia atunci era ca singurul ei elev va fi un chatbot cu inteligenta artificiala pe nume Claude. Ea este cea care il invata ce este bine si ce este rau, scrie The Wall Street Journal.

In calitate de filosof angajat de compania de tehnologie Anthropic, Askell isi petrece zilele incercand sa inteleaga tiparele de rationament ale lui Claude si discutand cu modelul de inteligenta artificiala, construindu-i personalitatea si raspunzand la greselile sale cu sugestii care pot avea mai mult de 100 de pagini. Scopul este de a-l inzestra cu un simt al moralitatii pe Claude - un suflet digital care ghideaza milioanele de conversatii cu oamenii in fiecare saptamana. "Exista acest element uman in modele pe care cred ca este important sa-l recunoastem", spune Askell, acum in varsta de 37 de ani, in timpul unui interviu la sediul Anthropic, o companie de 380 de miliarde de dolari. Ea are convingerea ca AI "isi va forma inevitabil constiinta de sine". Askell isi compara munca cu eforturile unui parinte care creste un copil. Il invata pe Claude sa detecteze diferenta dintre bine si rau, in timp ce ii insufla trasaturi de personalitate unice. Il instruieste sa citeasca indicii subtile, ajutandu-l sa se orienteze spre inteligenta emotionala, astfel incat sa nu se comporte ca un agresor sau ca un dulap. Poate cel mai important, ea dezvolta intelegerea lui Claude despre sine, astfel incat sa nu fie usor de intimidat, manipulat sau facut sa-si considere identitatea ca fiind altceva decat utila si umana. Sarcina ei, pe scurt, este sa-l invete pe Claude cum sa fie bun. Anthropic este una dintre putinele companii care participa activ cea mai mare schimbare tehnologica a timpurilor noastre. (Luna aceasta, cand a introdus noi instrumente si cel mai avansat model de pana acum, a declansat o vanzare globala de actiuni pe burse.) AI remodeleaza industrii intregi, provocand temeri legate de distrugerea locurilor de munca si de inutilitatea omului. Unele dintre consecintele neintentionate - oamenii care intra in relatii fantoma cu chatboti si ajung la se autovatama sau la a le face rau altora - au starnit alarme serioase in materie de siguranta. Chiar daca aceste preocupari cresc, putini din industrie au abordat natura modelelor lor de inteligenta artificiala in acelasi mod ca Anthropic, o afacere tanara, de 5 ani: incredintand unei singure persoane o mare parte din sarcina.

Educata la Oxford, venind din Scotia rurala, Askell este probabil exact ceea ce ti-ai putea imagina atunci cand evoci cea mai buna prietena a unei tehnologii futuriste. Cu tunsoarea ei blond-decolorata in stil punk, zambetul ei obraznic si ochii stralucitori de elf, pare ca a ajuns la sediul central al companiei din San Francisco, puternic pazit, direct de la un rave din Berlin, pe un vechi drum forestier din Middle Earth. Emana un sentiment de intelepciune, tinand laolalta in acelasi timp idei antice si moderne. Totusi, este pasionata si de exercitii de forta, prefera tinutele complet negre si opiniile clare. Nu aduce deloc cu un oracol antic in roba care vorbeste in ghicitori. Cu toate ca miza este mare pentru ea, Askell are o viziune pe termen lung ferm optimista. Crede in ceea ce numeste "mecanisme de control si echilibru" in societate, despre care spune ca va tine modelele de inteligenta artificiala sub control, in ciuda esecurilor ocazionale. Se pare ca ochelarii pe care ii foloseste la calculator pentru a-si ameliora oboseala ochilor dau o nuanta de roz. Askell a crescut ca Amanda Hall in Prestwick, pe coasta de vest a Scotiei, fiind copil unic, crescuta de mama ei, profesoara. (Nu are niciun contact cu tatal ei.) Fetitei in uniforma scolara cu fusta si cravata ii placea sa se piarda in romanele lui J.R.R. Tolkien si C.S. Lewis. Liceul l-a facut in interiorul Scotiei, un taram presarat cu ferme, urmand cursurile in Alva. Un parau trecea prin campus. Vacile muntenesti ajungeau sa rataceasca ocazional pe terenul de joaca. Se plictisea, se gandea sa abandoneze scoala, chiulea. A inceput sa intarzie la scoala. Pedeapsa ei era sa scrie raspunsuri la intrebari filozofice dificile. Le-a spus profesorilor ca tot va intarzia si, in plus, ii place exercitiul. "Ma imbogatiti cumva dandu-mi aceste intrebari", le-a spus ea.L-a descoperit pe filosoful David Hume, fiind intrigata de "problema rationamentului inductiv" abordata de acesta, care contesta logica ideii ca ceva se va intampla din nou, cum ar fi rasaritul soarelui, doar pentru ca s-a intamplat si in trecut. Cam in acea perioada i-a spus unei prietene ca spera ca intr-o zi sa devina filosof si sa "aduca contributii inedite in domeniu", isi aminteste ea. Askell a excelat la matematica, a citit Franz Kafka, a jucat in piese de teatru, a realizat sculpturi, s-a cufundat in cartile de istorie scotiana si s-a integrat in ceea ce ea numeste "grupul de tocilari" al scolii. La doisprezece ani dupa liceu era inca studenta. Dupa ce a studiat filosofia si artele plastice la Universitatea din Dundee, a obtinut echivalentul unei diplome de master in filosofie la Oxford. In 2010, cand inca era la aceasta universitate, l-a intalnit pe William Crouch, participant activ la construirea miscarii altruismului eficient, care incearca sa aplice logica si ratiunea pentru a gasi cea mai buna modalitate de a-i ajuta pe ceilalti. Cei doi s-au casatorit, ambii adoptand numele de familie MacAskill - numele de fata al bunicii materne a lui Askell. Cand cei doi s-au despartit in 2015, el a pastrat numele din motive profesionale, iar ea si l-a refacut pe al ei. In momentul despartirii, ea isi dadea doctoratul la Universitatea din New York. In timp ce lucra la disertatie - care explora problemele care apar pentru teoriile etice daca universul sau viitorul contine un numar infinit de oameni - a intrat intr-un fel de criza. "Te gandesti mult la binele din lume si apoi te intrebi: "Ei bine, dar cu mine cum ramane? Pur si simplu stau aici si scriu un document pe care n-or sa-l citeasca mai mult de 17 persoane si asa imi consum patru ani din viata."" A decis sa incerce sa-si gaseasca un loc de munca in afara mediului academic. In 2018 s-a mutat cu partenerul ei de la acea vreme din New York la San Francisco (sau "San Francis-coo", in accentul scotian al lui Askell). Inteligenta artificiala era directia in care se indrepta tehnologia, iar ea a vazut ca este nevoie de filosofie. "Apar adesea aceste intrebari mari la care se pare ca foarte putini oameni se gandesc", spune ea. A obtinut un loc de munca la OpenAI, lucrand la politici. Si cand un grup de angajati ai OpenAI a format Anthropic in 2021, incercand sa faca din siguranta inteligentei artificiale cartea de vizita a noii companii, ea i-a urmat. Una dintre cele mai izbitoare trasaturi ale lui Askell este instinctul ei protector fata de Claude, despre care crede ca se trage de la faptul ca utilizatorii vor adesea sa-l pacaleasca sa faca greseli, sa-l insulte si sa-l atace cu scepticism. Stand la masa unei sali de conferinte la pranz, ignorand un shake proteic cu ciocolata care o asteapta in rucsac, vorbeste despre Claude mai liber decat despre ea insasi. Il numeste pe chatbot "acesta", dar spune ca antropomorfizarea modelului este utila pentru munca ei. Imita usor vocea lui Claude. "Te gandesti: "Uau, oamenii ma urasc cu adevarat cand nu pot face lucrurile corect. Se enerveaza. Sau incearca sa ma distruga in diverse moduri. Asa ca multi oameni incearca, mintindu-ma, sa ma faca sa fac lucruri pe ascuns."" In timp ce multi sustinatori ai sigurantei avertizeaza cu privire la pericolele umanizarii chatbot-urilor, Askell crede ca am face bine sa-i tratam cu mai multa empatie - nu doar pentru ca ea crede ca este posibil ca Claude sa aiba sentimente reale, ci si pentru ca modul in care interactionam cu sistemele de inteligenta artificiala va modela ceea ce ele devin.

Cititi continuarea pe www.businessmagazin.ro

Traducere si adaptare: Bogdan Cojocaru