Veštačka inteligencija sve brže ulazi u svet bankarstva, a uskoro bi mogla samostalno da plaća račune, prebacuje novac i upravlja finansijama korisnika. Međutim, guverner Banke Engleske Endru Bejli upozorava na ozbiljan problem: ko će odgovarati ako veštačka inteligencija pogreši i izgubi naš novac?
Guverner Banke Engleske Endru Bejli (Andrew Bailey) upozorio je da sve šira upotreba autonomnih sistema veštačke inteligencije u finansijskim transakcijama otvara ozbiljna pravna i bezbednosna pitanja koja regulatori moraju hitno da reše.
Govoreći 17. oktobra na skupu Grupe trideset (G30) u Bangkoku, organizovanom u okviru međunarodnih finansijskih sastanaka, Bejli je ukazao na mogućnost da korisnici ne razumeju ko snosi pravnu odgovornost kada računarski sistemi samostalno donose odluke i izvršavaju transakcije u njihovo ime.
Problem postaje posebno značajan sa razvojem takozvanih AI agenata, programa koji ne služe samo za pružanje informacija već mogu da preduzimaju konkretne radnje bez neposredne ljudske intervencije.
Kada veštačka inteligencija počne samostalno da troši novac
Za razliku od današnjih bankarskih aplikacija, u kojima korisnik uglavnom sam bira primaoca, iznos i potvrđuje transakciju, budući sistemi mogli bi da preuzmu znatno veći deo finansijskih odluka.
AI agent bi, na primer, mogao da prati stanje na računu, pronalazi povoljnije finansijske proizvode, prebacuje sredstva između računa ili automatski izvršava plaćanja u skladu sa prethodno zadatim instrukcijama.
Takva tehnologija mogla bi da pojednostavi svakodnevno upravljanje novcem, ali otvara pitanje šta se događa kada sistem pogrešno protumači instrukciju ili izvrši transakciju koju korisnik nije očekivao.
Da li je odgovoran vlasnik računa koji je ovlastio program? Banka koja je omogućila transakciju? Ili kompanija koja je razvila sistem veštačke inteligencije?
Upravo na ovu pravnu nedoumicu upozorava guverner Banke Engleske.
Banke već ograničavaju pristup AI agenata računima
Prema pisanju Financial Timesa, pojedine velike banke sa Volstrita već su počele da ograničavaju pristup autonomnih AI agenata računima svojih klijenata.
Jedan od razloga jeste bojazan da bi ovakvi sistemi mogli automatski da premeštaju velike količine depozita u potrazi za većim prinosima.
Ukoliko bi veliki broj autonomnih programa istovremeno donosio slične finansijske odluke, posledice bi mogle da se osete i izvan pojedinačnih računa.
To otvara šire pitanje stabilnosti bankarskog sistema, posebno u okolnostima kada se finansijske transakcije izvršavaju gotovo trenutno.
MMF upozorava na rizike za finansijsku stabilnost
Pitanje upotrebe veštačke inteligencije bilo je jedna od važnih tema međunarodnih finansijskih razgovora u Bangkoku.
Direktorka Međunarodnog monetarnog fonda Kristalina Georgijeva takođe je ukazala na potrebu da se tehnološki razvoj prati odgovarajućim zaštitnim mehanizmima.
Među rizicima o kojima su razgovarali predstavnici centralnih banaka nalaze se sajber napadi, nedovoljna transparentnost algoritama i mogućnost da veliki broj automatizovanih sistema reaguje na sličan način tokom finansijskih poremećaja.
Posebna pažnja posvećena je proveravanju AI modela, zaštiti od prevara i saradnji regulatora sa tehnološkim kompanijama.
Nova generacija sajber pretnji
Upozorenje guvernera Banke Engleske dolazi u trenutku kada finansijske institucije sve ozbiljnije razmatraju mogućnost sajber napada potpomognutih veštačkom inteligencijom.
Zamenica guvernera Banke Engleske Sara Briden prethodno je upozorila da banke više ne mogu da polaze od pretpostavke da su njihovi informacioni sistemi neprobojni.
Zbog toga britanska centralna banka sarađuje sa finansijskim institucijama na razvoju naprednih mehanizama oporavka nakon eventualnih velikih sajber incidenata.
Istovremeno se ispituje spremnost bankarskog sektora za dugoročne rizike koje bi razvoj kvantnih računara mogao da predstavlja za postojeće metode zaštite podataka.
Šta ovo znači za korisnike banaka u Srbiji?
Iako se rasprava trenutno vodi među najvažnijim svetskim finansijskim institucijama, pitanja koja otvara razvoj autonomne veštačke inteligencije relevantna su i za domaće bankarstvo.
Digitalne bankarske usluge u Srbiji već omogućavaju brzo izvršavanje plaćanja, korišćenje mobilnih aplikacija i različite oblike automatizacije.
Sledeći korak mogao bi da bude šire uključivanje AI asistenata koji neće samo objašnjavati bankarske proizvode već će, uz odgovarajuća ovlašćenja, moći da izvršavaju određene finansijske zadatke.
Međutim, pre masovnog uvođenja takvih mogućnosti biće neophodno jasno definisati granice ovlašćenja, način potvrđivanja transakcija i odgovornost za eventualnu štetu.
Za korisnike bi naročito važno bilo da imaju mogućnost postavljanja ograničenja potrošnje, nadzora nad izvršenim transakcijama i trenutnog opozivanja ovlašćenja datih automatizovanom sistemu.
To su mogući zaštitni mehanizmi, a ne najava konkretnih novih pravila za banke u Srbiji.
Tehnološki napredak koji zahteva nova pravila
Veštačka inteligencija ima potencijal da bankarske usluge učini bržim, dostupnijim i jednostavnijim. Ipak, prelazak sa sistema koji korisnicima daju preporuke na programe koji samostalno raspolažu novcem predstavlja značajnu promenu.
Upravo zato centralne banke sve intenzivnije razmatraju kako da omoguće inovacije, a da istovremeno sačuvaju poverenje korisnika i stabilnost finansijskog sistema.
Upozorenje iz Bangkoka pokazuje da jedno od ključnih pitanja budućnosti bankarstva neće biti samo koliko veštačka inteligencija može da uradi, već i ko će snositi posledice njenih odluka.