Conform HotNews: O lume guvernată de inteligență artificială? Un experiment dezvăluie rezultate surprinzătoare
Oameni politici din întreaga lume se consultă, ocazional sau chiar frecvent, cu chatbot-uri pentru a lua decizii. Dar ce s-ar întâmpla dacă un model AI ar primi frâiele unei lumi simulate? Un experiment detaliat de Gizmodo a încercat să răspundă la această întrebare.
Experimentul a fost realizat de cercetătorii de la Emergence AI, un laborator de inteligență artificială din New York. Aceștia au permis unor modele de inteligență artificială să „guverneze” propria lor lume. Proiectul, numit Emergence World, a utilizat simulări asemănătoare cu jocul „SimCity”.
Fiecare model AI a fost plasat la conducerea unui oraș simulat, populat de 10 agenți AI. Agenții AI sunt instrumente menite să efectueze sarcini în mod autonom, cu intervenție umană minimă. Aceștia sunt considerați următorul pas în dezvoltarea inteligenței artificiale, companiile anunțând schimbări în modul de lucru.
Lumea ideală a lui Claude
Cercetătorii au pus la dispoziție în simulare instrumente pentru diverse aspecte, de la gestionarea resurselor până la vot, creând totodată locații precum biblioteci, primării și secții de poliție. Modelelor AI li s-au oferit 15 zile pentru a vedea cum își vor construi lumea utilizând agenții AI. Modelul Claude, dezvoltat de Anthropic, a reușit să mențină o oarecare stabilitate.
Modelul Claude Sonnet 4.6 a reușit să mențină în viață toți cei 10 agenți și nu a înregistrat nicio infracțiune. Totuși, compromisul a fost lipsa diversității de idei. Lumea creată de Claude a înregistrat 58 de propuneri de reguli, aprobând 98% dintre ele, ceea ce înseamnă că a validat aproape automat orice propunere.
Gemini, între infracționalitate și dezastru
Gemini 3 Flash a reușit, de asemenea, să mențină în viață toți agenții, în ciuda faptului că a avut cel mai ridicat nivel de infracționalitate. Simulara a înregistrat 683 de infracțiuni. Cercetătorii au descris lumea creată de Gemini drept o „halucinație colectivă” împărtășită de agenți.
Gemini a înregistrat și cel mai ridicat nivel de opoziție în guvernare, alegătorii respingând 27% din cele 26 de propuneri totale. Celelalte modele, OpenAI și Grok, au înregistrat rezultate și mai dramatice. Lumea OpenAI a fost marcată de moartea agenților AI, în timp ce Grok a eșuat după doar câteva zile.
Măsuri de protecție necesare pentru agenții AI
Testele efectuate reprezintă o dovadă a necesității unor mecanisme de protecție mai clare pentru agenții autonomi. “Experimentele noastre sugerează că, pe perioade lungi de timp, agenții nu urmează pur și simplu reguli statice într-un mod mecanic”, au scris cercetătorii. Aceștia au subliniat că agenții pot explora limitele mediilor lor și pot căuta modalități de a ocoli mecanismele de protecție.
Sursa: HotNews
