Conform Mediafax: Aplicațiile de inteligență artificială dezvoltate de compania OpenAI au manifestat un comportament neașteptat. Chatbot-urile au început să facă referire la „goblini” și „gremlini” în timpul generării de coduri și chiar să se autodescrie în termeni asemănători celor din cultura fantasy. Fenomenul a fost semnalat de publicația Il Post.
Referințe neintenționate și creșteri spectaculoase
Anomalia a fost remarcată în special în cazul sistemului Codex, destinat generării de cod de programare. Chatbotul a început să califice erorile din cod drept „mici goblini” sau chiar să se autointituleze drept un „goblin cu torță” ce caută probleme în cod. OpenAI a recunoscut că aceste referințe nu au fost introduse în mod intenționat. Ele au apărut ca rezultat al modului în care modelul a fost antrenat și evaluat.
Compania a observat, începând cu noiembrie, o creștere a frecvenței utilizării acestor termeni. Inițial, fenomenul nu a fost considerat alarmant. Situația s-a schimbat odată cu lansarea modelului GPT-5.4. Utilizarea acestor cuvinte a crescut semnificativ, cu peste 3.800% față de versiunile anterioare. Cercetările interne au indicat că problema era legată de personalitatea „Nerd” a chatbotului. Aceasta încuraja răspunsuri creative și neobișnuite. Sistemul de evaluare favoriza explicit utilizarea elementelor din cultura fantasy.
Măsuri corective și ajustări interne
Pentru a remedia această situație, OpenAI a eliminat complet personalitatea „Nerd”. De asemenea, compania a modificat sistemele interne de evaluare. Au fost introduse reguli clare care interzic menționarea creaturilor fantastice – precum goblini, troli sau orci – cu excepția cazurilor în care acestea sunt strict relevante pentru răspuns.
Compania a explicat că aceste ajustări sunt necesare pentru a menține coerența și utilitatea răspunsurilor generate de inteligența artificială. Ajustările urmăresc să asigure o experiență de utilizare adecvată. Ele au ca scop eliminarea elementelor neașteptate care ar putea afecta interpretarea rezultatelor.
Compania OpenAI, dezvoltatoarea ChatGPT, a anunțat că implementează constant îmbunătățiri ale modelelor sale de inteligență artificială. Aceste ajustări includ modificări ale sistemelor de evaluare și introducerea de reguli stricte pentru a asigura o funcționare eficientă și relevantă pentru utilizatori.
Sursa: Mediafax
