Business Hi-Tech

Companiile trebuie sa puna la dispozitia angajatilor instrumente de AI care sa fie aprobate si guvernate din punct de vedere securitate corporate pentru a evita bresele de securitate aparute in urma folosirii de astfel de tool-uri pe dispozitivele personale ale angajatilor, a explicat Daniel Marin, Chief Data Officer, BRD Groupe Societe Generale.

"Oamenii vor sa isi usureze munca, daca blocam si punem doar ziduri - spui nu ai voie sa folosesti LLM-uri in activitatea ta - oamenii vor gasi solutii. Oamenii sunt inteligenti, vor gasi solutii care pun companiile in risc de brese de securitate de aceea trebuie ca orice companie sa puna la dispozitie tool-uri care sa fie aprobate si guvernate din punct de vedere securitate corporate pentru ca angajatul sa nu foloseasca tool-ul de LLM de pe telefonul personal ci pe cel oficial care a fost aprobat si care il poate ajuta si scade tentatia", a spus Daniel Marin in cadrul conferintei ZF Digital Summit 2025. Romania in era AI: Agenti de progres sau de risc?.

Alte declaratii:

Cred ca AI va schimba asteptarile din punct de vedere al clientilor asupra sistemului bancar. Eu nu pot prezice in ce sens se vor schimba aceste asteptari sau in ce sens sistemul bancar se va schimba pentru a raspunde la ele.

Bankingul nu e un early adopter din punct de vedere al tehnologiei. Fortele care ne conduc pe noi sunt presiunea comerciala (trebuie sa standardizam si sa automatizam) si presiunea regulatorilor - sa fim complied cu ceea ce ne cere regulatorul national, european. Ceea ce inseamna ca e putin probabil ca zona asta de inovatie tehnologica sa vina din bancking, dar pe de alta parte, unde investim noi si unde cu siguranta bankingul va fi foarte avansat este zona de a integra tehnologiile noi din domeniul IT si sa le introduca in procesele interne.

Daca iti imaginezi ca zona de banking este un iceberg, varful fiind partea vizibila catre client - plata cu telefonul sau ochelarii - toata zona de constructie si investitie in IT nu e neaparat vizibila pentru client, dar e foarte importanta si transformativa pentru tot ce inseamna procese de banking in spate.

AI se foloseste de multi ani in domeniul bancar, este adevarat ca a aparut in discutiile noastre ca indivizi acum doi ani, dupa revolutia cu gen AI. Si este o unealta fenomenala care trebuie valorificata. Inca ne straduim sa gasim use case-urile in care aduce cea mai multa valoare si unde putem sa integram. Dar partea de AI si integrare in procese, de antifrauda, partea clasica de retele neuronale si Machine learning e foarte matura si avansata in toate bancile (imi imaginez) si cu siguranta si in alta industrie.

Ce se schimba acum cu gen AI e ca apare o interfata si o abilitate suplimentara care permite oamenilor sa fie mai putin structurati in interactiunea cu tehnologia. Oamenilor le place sa vorbeasca cu AI-ul pentru ca pot sa spuna ce gandesc si experienta e mult mai personala chiar daca in realitate in spate e o masina. Si asta ma duce si pe partea de procese, angajati, interactiune interna - oameni din interiorul bancii - care pot sa foloseasca AI pentru a scrie cod.

De asemenea, daca nu ai date de training suficiente pentru modelele de antifrauda, sa incerci sa generezi ceva statistic semnificativ a devenit posibil, inainte era o problema foarte mare.

Domeniul bancar e extrem de reglementat, e dens si stufos. Nu exista nicio persoana care sa cunoasca absolut toate regulile, procedurile, instructiunile, deci aici un Chat bot intern ajuta extrem de mult ca sa ajungi sa "pui degetul" pe ce e relevant si conteaza in acel moment.

Acestea sunt transformam care sunt oarecum la inceput.

Vorbim o data de zona de etica si guvernanta si a doua parte este despre a explica deciziile de AI. Pe partea de guvernanta si etica, cum am facut guvernanta pentru zona de date - pentru ca datele sunt un asset si fundamentale pentru aproape orice vrei sa faci, trebuie sa fie curate, de incredere, aliniate, disponibile, deschise -, cumva, directia in care merge industria bancara este spre a seta o guvernanta asemanatoare si pe zona de AI. Iar aici eu de obicei nu propovaduiesc guvernanta suplimentara dar cred ca in cazul acesta este nevoie pentru ca doar gandind in mod intentionat, pe capcanele pe care poti sa le ai, pe scenariile in care te poate ajuta si in care te poate in curca, doar asa poti sa avansezi si sa faci fata progresului si industriei care se schimba.

Iar pe zona de explicare - asta e o intrebare f importanta si o problema nerezolvata. Pentru ca cu cat au un sistem AI mai complex si mai performant cu atat el e mai opac. Deci pe o scara de la modele matematice care sunt complet intelese, folosite, urmarite, pana la LLM unde inca nu intelegem cu adevarat de ce functioneaza, nu cum functioneaza, este un spectru foarte mare si foarte multa lume investeste multi bani spre a le face cat mai inteligibile si spre a intelege de ce iau deciziile pe care le iau, de ce raspund in felul in care raspund, si asta e o zona care cumva forteaza industria bancara sa aleaga in functie de use case daca sa foloseasca modele mai putin personale, mai putin performante dar a caror decizii sa fie cat de cat inteligibile, sau sa foloseasca retele neuronale sau LLM-uri care sunt mult mai performante in impact dar care sunt complet opace si nu pot fi explicate de ce a luat acele decizii, desi e mai buna si aduce mai multi bani sunt use case-uri in care nu putem sa le folosim si nu ar fi etic sa le folosim.