Un raport generat de inteligența artificială a pus aproape SUA în fața unei operațiuni militare împotriva unei nave chineze. Membri înarmați ai armatei americane se pregăteau să urce la bordul navei, în timp ce avioane militare erau deja în aer, înainte ca oficialii să descopere că informația era eronată. Analiza ulterioară a arătat că un analist de la comandamentul pentru operațiuni speciale a folosit un chatbot care a identificat greșit natura încărcăturii de pe navă.
Incidentul a fost extrem de grav, deoarece raportul a fost descris de o sursă ca fiind „complet fals”, fapt ce ar fi putut declanșa un conflict armat între SUA și China. În momentul în care operațiunea era planificată, oficialii au descoperit că instrumentul de AI a combinat date din surse deschise cu informații secrete din bazele de date ale guvernului pentru a ajunge la o concluzie falsă. Nu s-a putut determina exact ce tip de material transporta nava, de fapt.
Analistul a interogat un chatbot cu privire la manifestul navei, date provenite de la Comandamentul SUA pentru Operațiuni Speciale din Pacific, cu sediul în Hawaii. Ulterior, tehnologia a fost folosită pentru a transforma aceste concluzii într-un raport de informații standard, format în care oficialii militari depind de acuratețe. Un fost oficial a menționat că instrumentele interne sunt, în mare parte, copii ale celor comerciale, dar dotate cu un strat de vopsea deasupra.
Integrarea AI în armata americană vizează accelerarea deciziilor pe câmpul de luptă, de la gestionarea bugetelor până la selectarea țintelor. Totuși, utilizarea acestor tehnologii a dus la fenomene de „halucinație”, unde AI-ul produce informații eronate. Unii oficiali avertizează că AI îți permite să ajungi mai repede la o idee proastă, presiunea de a produce informații rapid afectând în special analiștii tineri care acordă o încredere nejustificată instrumentelor.
Comandamentul SUA pentru Operațiuni Speciale din Pacific și Pentagonul nu au oferit detalii suplimentare în urma solicitărilor de comentarii. Această utilizare a tehnologiei este justificată de nevoia de a rămâne în fața unor adversari precum China. Totodată, utilizarea AI în cadrul comunității de informații a crescut riscul de erori, deoarece procesul de analiză a devenit mult mai rapid, dar și mai vulnerabil la informații nesigure.
În contextul actual al tehnologiei, integrarea sistemelor de inteligență artificială în structurile de decizie este o temă globală de securitate. Deși tehnologia promite eficiență sporită în logistică și analiză, riscurile de eroare rămân semnificative. În România, discuțiile despre digitalizare și impactul tehnologiei sunt prezente în diverse sectoare, de la bănci până la managementul de date, reflectând viteza de schimbare a mediului digital modern.