Cea mai recentă conferință științifică mondială, ICML, a devenit subiect de dezbatere aprinsă după ce a dat publicității rezultate spectaculoase în lupta contra utilizării ilegale a inteligenței artificiale în procesul de peer review. Într-un efort de a proteja integritatea procesului de evaluare a lucrărilor de cercetare, organizatorii au implementat o metodă inedită: un sistem de watermarking invizibil, cu ajutorul căruia au detectat lucările evaluate cu ajutorul modelelor de limbaj automatizate, precum ChatGPT sau alte instrumente similare. Această tehnologie subtilă, ascunsă în fișiere PDF trimise virtualei comisii de selecție, a permis identificarea cu precizie a cazurilor de fraudă, anunțând o etapă nouă în regula disciplinei științifice.
Detectoare invizibile pentru AI – o metodă inedită de a păstra integritatea
Organizatorii ICML au explicat că, în răspuns la creșterea semnificativă a utilizării neautorizate a inteligenței artificiale în procesul de evaluare, au dezvoltat un mecanism propriu de detectare. Acesta consta în introducerea unor instrucțiuni invizibile în fișierele PDF, care singure nu erau vizibile pentru ochiul uman, dar puteau fi identificate de modele specializate de limbaj AI. Mai mult, dacă un recenzor încărca lucrarea într-un sistem AI pentru a genera un review, anumite expresii-capcană erau declanșate, fiind un semnal clar al încălcării politicii de integritate.
Rezultatele nu au întârziat să apară. În total, 497 din cele aproape 25.000 de lucrări primite au fost respinse pentru că au fost identificate drept utilizări ilegale ale AI, ceea ce înseamnă aproximativ 2%. Conducerea ICML susține că nu au folosit detectoare generice, ci un mecanism personalizat, testat riguros pentru a evita erorile, și că fiecare caz suspect a fost verificat manual. Această abordare nu prognozează o victorie completă împotriva fraudei, recunoscând că metoda poate fi ocolită, dar speră să descurajeze cele mai evidente încălcări.
Impactul deciziei și implicațiile asupra cercetării științifice
Reacțiile în comunitatea științifică au fost împărțite. Unii cercetători consideră că această mișcare reprezintă un pas necesar pentru a păstra valoarea objetivă a evaluării științifice, subliniind că regulile trebuie respectate pentru a evita un haos etic. Alții, însă, avertizează că politica aceasta strictă poate avea efecte contraproductive, descurajând recenzorii de a folosi AI-ul în mod responsabil sau forțând utilizarea unor metode mai sofisticate de fraudare, mai greu de detectat.
În plus, decizia de la ICML vine în contextul unei presiuni tot mai mari din partea cercetătorilor privind utilizarea AI pentru eficientizarea procesului de cercetare și publicare. În 2025, un sondaj arăta că peste jumătate dintre specialiști foloseau deja aceste instrumente pentru a ajuta la redactare sau evaluare, chiar dacă majoritatea publicațiilor și conferințelor interzice acest lucru explicit. Astfel, decizia reflectă încercarea de a regla o situație dificilă, în care distincția între aportul tehnologiei și frauda devine adesea neclară.
Prin această mișcare, ICML își reafirmă intenția de a trata utilizarea AI în cercetare ca pe o problemă de integritate academică, nu doar ca pe o zonă gri. Cei care au respins lucrările dubioase dau astfel un semnal clar: regulile trebuie respectate, iar încălcarea lor nu va trece neobservată. În același timp, exemplul conferinței poate deveni un model pentru alte marile evenimente științifice, care vor fi nevoite să găsească soluții similare pentru a păstra credibilitatea procesului evaluativ.
În timp ce comunitatea științifică se adaptează la această nouă realitate, rămâne de văzut dacă astfel de măsuri vor fi suficiente pentru a preveni abuzurile și dacă va exista un echilibru între utilizarea benefică a inteligenței artificiale și respectarea principiilor etice. Cert este că, odată cu implementarea acestor tehnologii de detectare, regulile jocului s-au schimbat, iar cercetarea științifică trebuie să găsească acum soluții pentru a rămâne credibilă într-un peisaj digital în continuă evoluție.
Sursa: Playtech.ro
