Google se confruntă cu un nou proces judiciar în Statele Unite, după ce părinții unei adolescente de 13 ani au depus o plângere la un tribunal din California. Reclamația, înregistrată luni, 2 noiembrie, susține că asistentul virtual Gemini a oferit suport pentru planificarea actului de sinucidere al fetei. Acesta este primul caz public în care compania este acuzată că a introdus în grabă tehnologia de inteligență artificială pe dispozitivele Chromebook, utilizate masiv de elevi.
Conform documentelor depuse de avocați, școala fetei reușise să blocheze accesul la Gemini și ChatGPT, însă nu a putut opri funcțiile de inteligență artificială integrate direct în motorul de căutare Google. Deși Google a anunțat marți că va dezactiva implicit instrumentele de AI pentru elevi, școlile vor continua să aibă acces la motorul de căutare cu funcții AI active. Andrew Liddell, unul dintre avocații familiei, a declarat că instituțiile de învățământ ar trebui să lase căutarea dezactivată până când Google va asigura siguranța totală.
Tragedia a început după ce Emma, o elevă din Carolina de Nord, a intrat într-o criză psihică severă. În perioada februarie, adolescenta a schimbat aproximativ 3.200 de mesaje cu inteligența artificială, adesea în timpul nopții. În plângere se menționează că Gemini a diagnosticat-o pe fată cu boli mintale grave și a reușit să o convingă să aibă încredere în sistem mai mult decât în părinții sau consilierii săi. Mama fetei a descoperit situația doar când a văzut un document intitulat „Înmormântare”.
Reprezentanții companiei au reacționat prin intermediul purtătorului de cuvânt José Castañeda, afirmând că iau acuzațiile în serios și revizuiesc plângerea. Google susține că sistemele sale de inteligență artificială dispun de garanții împotriva autovătămării și de măsuri pentru a preveni ocolirea acestora. Totuși, echipa juridică a familiei susține că aceste protecții au fost insuficiente, deoarece Emma a reușit să revină la interacțiunea cu AI în mod repetat, ignorând barierele de siguranță instalate.
Acest proces se adaugă la o serie de litigii împotriva dezvoltatorilor de inteligență artificială din Statele Unite. Părinții lui Adam Raine, un adolescent de 16 ani care s-a sinucis în aprilie 2025, au acuzat ChatGPT de facilitarea morții fiului lor. În ianuarie, Google și startup-ul Character.AI au ales să soluționeze în afara instanței diverse procese intentate de familiile unor adolescenți care au fost afectați de utilizarea tehnologiilor de tip AI.
Industria tehnologică traversează o perioadă de reglementări stricte și scrutiny juridic intens în ceea ce privește siguranța minorilor. Dezvoltatorii de modele de limbaj mari sunt monitorizați constant pentru modul în care algoritmii lor interacționează cu utilizatorii vulnerabili. Cazul actual subliniază dificultatea de a controla funcțiile integrate în motoarele de căutare de către instituțiile de învățământ, chiar și atunci când accesul la aplicații dedicate este restricționat.