Un profesor de istorie de la o universitate din Statele Unite a reușit să identifice utilizarea inteligenței artificiale în lucrările studenților săi. Jason Gibson, care activează la Universitatea de Stat Alcorn din statul Mississippi, a introdus o capcană ascunsă în cerințele examenului final. Această metodă a permis demascarea a 32 de studenți din totalul de 35 de persoane înscrise la cursul său de vară, demonstrând că aceștia au apelat la instrumente de generare automată de text.
Metoda utilizată de Jason Gibson a presupus ascunderea unei instrucțiuni speciale în documentul de cerințe, scrisă cu un font alb, invizibilă pentru ochiul uman. Această comandă îi solicita utilizatorului să introducă cuvântul „Madagascar” într-un context care nu avea nicio legătură cu subiectul eseului. Deși studenții nu puteau vedea textul la o citire obișnuită, instrumentele de inteligență artificială au detectat și executat comanda atunci când textul a fost copiat integral într-un chatbot.
Subiectul examenului viza Revoluția Industrială, un eveniment istoric care nu are nicio conexiune cu insula africană menționată în capcană. Rezultatele au confirmat suspiciunile profesorului, deoarece 32 dintre cei 35 de studenți au inclus mențiuni despre Madagascar în răspunsurile lor. Printre lucrările analizate s-au găsit fraze în care termenul apărea forțat, fiind integrat prin comparații stângace legate de globalizare sau conectivitate digitală, fără nicio coerență logică cu tema propusă.
Jason Gibson, în vârstă de 34 de ani, a explicat că decizia de a testa studenții a venit după ce a observat o discrepanță între modul de exprimare oral la curs și stilul lucrărilor scrise. Profesorul a comparat procesul de învățare cu acumularea dobânzii compuse, subliniind că cunoștințele se construiesc prin citit și interacțiune directă cu materialul de studiu. În unele lucrări, menționarea Madagascarului a fost însoțită de detalii incoerente, precum prezența unei biciclete sau a unui prăjitor de pâine pe insulă.
Experimentul a generat discuții pe rețelele sociale, după ce profesorul a distribuit cazul pe TikTok. În comentariile de sub videoclip, un utilizator care s-a prezentat drept student a sugerat că, probabil, toți cei 35 de studenți au folosit inteligența artificială, însă doar trei dintre ei au citit răspunsurile înainte de predare, reușind astfel să elimine mențiunile suspecte. Această observație subliniază cât de ușor pot fi detectate erorile de procesare ale modelelor de limbaj.
Cazul „capcanei Madagascar” reflectă o tendință globală în care educatorii încearcă să își adapteze metodele de evaluare în fața extinderii rapide a inteligenței artificiale generative. În mediul universitar, profesorii testează diverse strategii de detectare, de la inserarea de fraze ascunse până la aplicarea unor întrebări de urmărire directe în timpul examinării orale, pentru a asigura integritatea academică în fața noilor tehnologii.