Un incident grav a avut loc în primăvara acestui an, când armata SUA a fost pusă în pragul unui conflict cu China din cauza unei informații false. Un raport generat de inteligența artificială a indicat eronat existența unei nave chineze care transporta componente nucleare, o situație care a dus la o mobilizare militară rapidă. Evenimentul subliniază riscurile imense care apar atunci când informațiile produse de algoritmi ajung în lanțul de decizie militară.
Conform informațiilor raportate de CNN, raportul fals circula deja în interiorul armatei SUA când a fost descoperit. O sursă apropiată dosarului a descris documentul ca fiind complet fals, însă acesta a fost suficient de convingător pentru a declanșa o reacție imediată. Forțele americane au primit ordinul de a intercepta nava respectivă, avioanele militare au fost trimise în zonă, iar militarii se pregăteau activ să urce la bordul vasului.
Operațiunea a fost oprită abia în ultimul moment, după ce oficialii americani au realizat că baza informației este eronată. Totul a început când un analist militar a utilizat un chatbot pentru a obține detalii despre o navă chineză menționată într-un raport al Comandamentului pentru Operațiuni Speciale al SUA în Pacific. Sistemul a combinat date clasificate cu informații publice de pe internet, concluzionând greșit că nava transporta componente nucleare.
Analistul a folosit instrumentul AI pentru a redacta un nou raport de intelligence, care a fost ulterior distribuit pe canalele oficiale ale armatei. Nu s-a clarificat dacă acest instrument este un produs comercial sau o tehnologie dezvoltată special pentru armata SUA. Acest incident demonstrează cât de ușor pot fi manipulate sau eronate datele atunci când un sistem AI combină informații din surse diferite pentru a crea concluzii false.
Armata americană utilizează tot mai des inteligența artificială pentru sarcini precum identificarea și selectarea țintelor, însă supravegherea umană rămâne o problemă critică. În prezent, experții de la nivel internațional discută intens despre riscurile AI în domeniul militar. Aceștia propun reguli de siguranță strictă, inspirate din controlul armelor nucleare, care să asigure controlul uman asupra deciziilor critice și să prevină escaladările accidentale.
Discuțiile despre siguranța tehnologică în mediul militar sunt intensificate de nevoia de a crea canale directe de comunicare între marile puteri. În contextul actual, unde tehnologia avansează rapid, stabilirea unor reguli de control uman asupra deciziilor de viață sau de moarte este esențială pentru a evita erorile de calcul ale algoritmilor. Această abordare vizează prevenirea unor conflicte declanșate accidental de procesele automatizate.