Zf 24

Negocierile dintre Anthropic PBC si Pentagon pentru prelungirea unui contract sunt in impas, din cauza unor conditii suplimentare pe care compania vrea sa le impuna asupra modului in care poate fi folosit modelul sau Claude, potrivit unei persoane familiarizate cu discutiile, citate de Bloomberg.

Anthropic cere introducerea unor "guardrails", masuri care sa limiteze utilizarea Claude in doua directii sensibile: supravegherea in masa a cetatenilor americani si dezvoltarea de arme autonome, care ar putea fi desfasurate fara implicarea unui om in decizie. Sursa a solicitat anonimatul, deoarece negocierile sunt private. Pentagonul, in schimb, sustine ca vrea sa poata utiliza Claude atat timp cat implementarea respecta legea. Axios a relatat anterior despre acest dezacord.

Pe masura ce modelele AI devin mai puternice, creste si riscul ca ele sa fie folosite pentru dezvoltarea armelor sau pentru colectarea si analizarea datelor personale. Anthropic se pozitioneaza drept o companie mai precauta, care incearca sa evite efectele "catastrofale" ale tehnologiei si afirma ca doreste sa lucreze cu institutiile guvernamentale in limitele propriilor reguli etice.

In acest scop, compania a creat Claude Gov, o versiune dedicata aparatului de securitate nationala din SUA. Modelul ar avea capabilitati extinse pentru procesarea si interpretarea materialelor clasificate, pentru analiza informatiilor de intelligence si pentru intelegerea datelor de securitate cibernetica.

"Anthropic este angajata sa foloseasca AI de frontiera in sprijinul securitatii nationale a SUA", a declarat un purtator de cuvant al companiei. Acesta a adaugat ca discutiile cu Departamentul Apararii sunt "productive" si purtate "cu buna credinta", tocmai pentru a gasi o formula care sa raspunda acestor dileme.

De cealalta parte, Pentagonul transmite un mesaj ferm. "Relatia Departamentului Apararii cu Anthropic este in curs de evaluare", a declarat Sean Parnell, purtator de cuvant al institutiei, intr-un raspuns transmis prin e-mail. "Natiunea noastra are nevoie ca partenerii sa fie dispusi sa ii ajute pe militarii nostri sa castige in orice lupta. In cele din urma, este vorba despre trupele noastre si despre siguranta poporului american."

Potrivit unui oficial senior din domeniul apararii, multi responsabili din Pentagon privesc Anthropic drept un potential risc in lantul de furnizori. In acest context, Departamentul Apararii ar putea cere contractorilor sa certifice ca nu folosesc modelele companiei.

Disputa dintre Anthropic si Pentagon, privind limitele utilizarii AI, ar putea avantaja alte companii din industrie. Acelasi oficial a declarat ca dezvoltatori ai altor modele, inclusiv OpenAI (ChatGPT), Alphabet (Google Gemini) si xAI (Grok), lucreaza cu Pentagonul pentru a se asigura ca platformele lor pot fi folosite in mod legal.