Conform HotNews: Ce riscuri ascund modelele de inteligență artificială oferite de marii jucători din Silicon Valley?
O îngrijorare tot mai pregnantă în rândul pasionaților de inteligență artificială (AI) din Silicon Valley vizează o posibilă utilizare abuzivă a modelelor de AI de către companii mari, care ar putea ajunge să concureze cu propriii clienți. Această perspectivă alarmantă, asemănată cu introducerea unui „cal troian”, sugerează că furnizorii de modele AI ar putea exploata datele sensibile ale clienților pentru a obține avantaje competitive.
Companiile plătesc dublu pentru serviciile de inteligență artificială
Satya Nadella, CEO-ul Microsoft, s-a alăturat vocilor critice, atrăgând atenția asupra unui aspect frecvent trecut cu vederea de către utilizatorii de AI. Potrivit lui Nadella, companiile care folosesc modele AI, precum cele dezvoltate de OpenAI sau Anthropic, nu plătesc doar pentru tokenurile AI utilizate, ci și, într-un mod mai subtil, cu date valoroase care conțin cunoștințe proprietare. Pe măsură ce modelele AI devin mai performante, ele necesită o cantitate sporită de astfel de informații, ceea ce duce, într-un fel, la o „dublă plată”.
Prin interacțiunea constantă cu prompt-urile utilizatorilor, instrumentele folosite și corecturile aduse erorilor, modelele AI învață nuanțe specifice fiecărei afaceri. „Fiecare corectură este distilată într-un ‘know-how’ instituțional”, explică Nadella. Aceste informații, consideră el, sunt extrem de valoroase, reprezentând un capital de cunoștințe pe care concurența nu l-ar putea achiziționa prin mijloace tradiționale, dar pe care companiile îl oferă, involuntar, dezvoltatorilor de AI.
Paradoxul „distilării” modelelor AI
Nadella ridică o problemă de echitate în ceea ce privește practica „distilării” modelelor AI. Dacă firmele de AI au libertatea de a extrage informații din diverse surse publice pentru a-și antrena modelele, atunci ar fi logic ca și companiile utilizatoare să aibă dreptul de a studia, sau „distila”, aceste modele. „Distilarea” presupune utilizarea rezultatelor generate de un model AI pentru a dezvolta un altul, potențial mai eficient din punct de vedere al costurilor.
Există deja cazuri, precum cel invocat de Anthropic, în care companii ar fi utilizat modele AI comerciale pentru a-și îmbunătăți propriile soluții, determinând autoritățile să ia în considerare măsuri de control al exporturilor. Ideea lui Nadella este că dezvoltatorii de modele nu pot beneficia simultan de avantaje nelimitate și de protecție absolută. El consideră ipocrită situația în care, pe de o parte, își antrenează liber modelele pe date publice, iar pe de altă parte, restricționează posibilitatea ca alții să aplice tehnici similare asupra modelelor lor.
Soluții pentru protecția datelor în era AI
Pentru a contracara aceste riscuri, Satya Nadella propune companiilor să ia măsuri proactive. Una dintre recomandări este păstrarea proprietății asupra propriilor date, incluzând aici comenzile transmise, feedback-ul oferit și alte informații generate în timpul interacțiunii cu modelele AI. De asemenea, el sugerează implementarea unor „straturi de orchestrare” care să permită companiilor să comute ușor între diferiți furnizori de modele AI, evitând astfel dependența de un singur serviciu.
„Atunci când consumi inteligență, creezi, la rândul tău, inteligență. Iar ceea ce creezi ar trebui să îți aparțină”, subliniază Nadella, subliniind necesitatea de a proteja valoarea adăugată de utilizatori în crearea și rafinarea acestor sisteme avansate. Această abordare vizează să redea companiilor controlul asupra propriilor cunoștințe și să limiteze potențialul ca acestea să fie folosite împotriva lor.
Sursa: HotNews
