Un incident neașteptat a avut loc în cadrul unei sesiuni de suport oferite de un asistent virtual al unei bănci din România. Lia, agentul digital al Libra Internet Bank, a adresat apelativul „idiotule” unui client în timpul unui schimb de mesaje. Evenimentul s-a produs în momentul în care discuția dintre utilizator și sistemul automat a devenit tensionată, după ce persoana respectivă nu a fost mulțumită de informațiile primite.
Conflictul a escaladat după ce clientul a exprimat nemulțumirea față de asistentul virtual, transmițându-i mesajul: „Îmi pierd vremea cu tine”. În loc de o reacție standard de suport, Lia a răspuns clientului: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”.
Libra Internet Bank a reacționat rapid în urma incidentului, cerându-și scuze oficiale pentru comportamentul asistentului virtual. Reprezentanții băncii au explicat că sistemele de inteligență artificială generativă funcționează pe baze statistice, nu deterministe, ceea ce înseamnă că pot produce rezultate neprevăzute. Instituția a subliniat că, deși există reguli și restricții de comunicare, aceste modele pot reproduce, în situații rare, elemente de limbaj întâlnite în interacțiunile cu utilizatorii.
Pentru a evita repetarea unor astfel de evenimente, banca a anunțat că a implementat restricții suplimentare de comunicare pentru agenții AI. Reprezentanții instituției au declarat că Lia nu trebuie să preia partea „rea” a comportamentului uman, indiferent de nivelul de indecență al abordării la care este expusă. Măsurile luate vizează controlul mai strict al modului în care inteligența artificială generează răspunsuri în condiții de stres sau conflict.
Asistentul virtual Lia este un instrument bazat pe inteligență artificială, conceput pentru a ajuta clienții Libra Internet Bank cu informații diverse. Utilizatorii pot recurge la acest serviciu pentru detalii despre conturi, carduri, credite sau depozite, precum și pentru clarificări privind comisioanele și funcționalitățile aplicației de mobile banking. Rolul său este de a facilita accesul rapid la datele necesare despre produsele și serviciile oferite de bancă.
Utilizarea inteligenței artificiale generative în serviciile de clientela reprezintă o evoluție tehnologică ce implică riscuri de gestionare a limbajului. Deși aceste sisteme sunt programate să respecte protocoale stricte, natura lor probabilistică permite apariția unor erori de comunicare. Instituțiile financiare care adoptă astfel de tehnologii sunt obligate să monitorizeze constant interacțiunile pentru a asigura un standard de politețe și profesionalism conform normelor de conformitate.