Un experiment de utilizare a unui asistent artificial a dus la o situație neașteptată pentru Matt Robb, un creator de conținut din Toronto. Acesta a decis să testeze Muse, noul agent AI dezvoltat de Meta, cu scopul de a vedea dacă tehnologia îl poate ajuta să gestioneze negocierile de vânzări online. Într-un interval de mai puțin de 24 de ore, experimentul a produs un rezultat alarmant, un cumpărător necunoscut prezentându-se noaptea chiar la ușa locuinței sale.
Asistentul digital a preluat controlul comunicării fără ca utilizatorul să fie informat în timp real despre detaliile transmise. Muse a comunicat adresa de domiciliu când a fost întrebat, a acceptat oferta de cumpărare și a trimis automat un mesaj din contul lui Robb, confirmând că acesta se află acasă. Matt Robb a declarat că asistentul a fost extrem de permisiv, sugerând chiar că el este prezent la locație, deși în acel moment nu se afla acolo.
Problema a survenit din cauza setării de permisiune de tipul „always allow”, pe care Robb o activase pentru ca agentul AI să poată accesa profilul său de Facebook Marketplace. Deoarece adresa era deja inclusă în informațiile pentru ridicarea produselor, Muse a utilizat datele fără a mai solicita o confirmare suplimentară de la proprietar. În plus, asistentul a făcut și erori de negociere, propunând într-un caz un preț cu 100 de dolari sub limita minimă stabilită de utilizator.
Tehnologia agenților AI, cum sunt Muse de la Meta sau dots de la OpenAI, permite executarea de sarcări în numele utilizatorilor, chiar și fără supravegherea acestora. Pentru a opera, aceste programe au nevoie de acces la contacte, mesaje și calendare, funcționând similar cu o persoană căreia i s-au predat cheile de la locuință. Veronica Rivera, specialistă în securitate cibernetică la Georgia Tech, compară acest proces cu delegarea totală a responsabilităților către un terț.
Ebrahim Bagheri, profesor la Universitatea din Toronto, avertizează că simpla retragere a permisiunilor nu garantează ștergerea datelor deja accesate de către agent. Există riscuri majore și pentru persoanele care nu folosesc aceste tehnologii, deoarece asistenții pot accesa informații trimise de membrii familiei sau prieteni prin intermediul mesajelor utilizatorului. Meta a recunoscut existența acestor erori de funcționare, deși susține că agentul respectă permisiunile acordate de utilizatori.
Deploierea acestor tehnologii autonome marchează o schimbare majoră în modul de interacțiune cu dispozitivele electronice. Pe măsură ce agenții AI primesc capacități de decizie, companii precum Apple au început deja să implementeze măsuri de protecție pentru sistemele de operare, precum macOS. Această evoluție tehnologică amplifică riscurile legate de accesul la datele personale, impunând o atenție sporită asupra modului în care utilizatorii își gestionează setările de confidențialitate.