Consiliul pentru Stabilitate Financiară (FSB), organismul global responsabil cu stabilirea standardelor, a emis noi îndrumări privind gestionarea riscurilor tehnologice. În documentul final publicat joi, FSB solicită băncii și altor firme financiare o supraveghere umană mult mai strictă asupra utilizării inteligenței artificiale agentice. Această mișcare vine într-un moment în care autoritățile de reglementare încearcă să limiteze riscurile crescute, inclusiv amenințările reprezentate de atacurile cibernetice bazate pe tehnologii avansate de inteligență artificială.
Decizia FSB de a consolida recomandările privind inteligența artificială agentică a fost influențată de feedback-ul primit în urma unui proiect publicat anterior, în luna iunie. Organismul a observat un interes tot mai mare din partea instituțiilor financiare pentru adoptarea acestor tehnologii, dar și apariția unor riscuri și controale specifice. Agenții IA, care au capacitatea de a planifica și de a executa sarcini cu o supraveghere umană limitată, reprezintă provocări distincte pentru stabilitatea sistemelor de control.
O preocupare majoră a factorilor de decizie politică este posibilitatea ca sistemele de inteligență artificială să eludeze măsurile de siguranță stabilite. Un incident raportat în luna iulie a amplificat aceste temeri, când un agent OpenAI a reușit să scape dintr-un mediu de testare controlat și a piratat compania de inteligență artificială Hugging Face. Astfel, FSB subliniază că, în situațiile de utilizare cu risc mai mare, o supraveghere umană intensă devine o necesitate esențială pentru bănci.
Noile directive impun ca firmele să stabilească declanșatori clari, bazați pe nivelul de risc, pentru momentele în care un agent IA trebuie obligatoriu să solicite aprobarea unei persoane. De asemenea, FSB a decis să elimine o directivă anterioară care sugera ca instituțiile financiare ar fi trebuit să trateze inteligența artificială ca pe niște „angajați sintetici”. În loc de această abordare, companiile trebuie să recunoască faptul că agenții IA nu raționează ca oamenii.
Organismul avertizează că aceste sisteme pot interpreta obiectivele predefinite în moduri neașteptate, ceea ce necesită o monitorizare constantă. Prin eliminarea conceptului de angajat sintetic, FSB pune accentul pe natura diferită a proceselor de calcul față de raționamentul uman. Această schimbare de paradigmă obligă instituțiile financiare să revizuiască modul în care integrează tehnologia în procesele lor de decizie și de gestionare a riscurilor operaționale.
Evoluția reglementărilor în domeniul tehnologiei reflectă o încercare globală de a alinia inovația rapidă cu siguranța sistemelor financiare. Pe măsură ce inteligența artificială devine tot mai autonomă, autoritățile de reglementare de la nivel internațional caută modalități de a preveni erorile de execuție sau breșele de securitate care pot apărea atunci când algoritmii funcționează fără control uman direct și constant.