Conform Playtech.ro: Sistemele de inteligență artificială utilizate pentru monitorizarea automată a comunicărilor online, cunoscute sub numele de Chat Control, generează îngrijorări majore printre experții în securitate și apărarea drepturilor fundamentale. Deși scopul declarat este combaterea abuzului asupra minorilor, criticii atrag atenția asupra riscurilor semnificative de eroare și a potențialului de supraveghere extinsă, care ar putea afecta chiar și discuțiile private ale cetățenilor europeni.
Sistemele automate, deși prezentate ca soluții eficiente, se confruntă cu limitări practice. Conform datelor citate de critici, aceste clasificatoare bazate pe inteligență artificială pot înregistra rate de fals pozitiv considerabile. Poliția germană a raportat deja că o proporție importantă dintre alertele primite nu corespunde unor infracțiuni penale. Mai mult, o parte semnificativă a investigațiilor declanșate vizează minori, nu rețele organizate de abuzatori, ridicând semne de întrebare cu privire la eficacitatea reală a instrumentului și la direcția în care impactează.
Este important de subliniat că Chat Control 1.0 nu vizează în prezent comunicațiile criptate end-to-end, precum cele de pe Signal sau WhatsApp, unde accesul la conținut este restricționat la expeditor și destinatar. Platformele care pot fi supuse monitorizării sunt cele în care furnizorul de servicii are acces la conținut sau îl poate procesa pe servere, incluzând anumite servicii de email, aplicații de mesagerie necriptate sau platforme cu criptare incompletă. Confuzia este alimentată și de propunerea permanentă Chat Control 2.0, aflată încă în negocieri, care ar putea extinde semnificativ sfera de aplicare, inclusiv prin scanarea conținutului direct pe dispozitiv, înainte de criptare.
Tehnologia din spate, motiv de îngrijorare pentru experți
Pentru numeroși cercetători în domeniul securității informatice, miza depășește reglementările actuale, vizând definirea infrastructurii digitale pentru viitor. Scanarea voluntară a mesajelor necriptate poate fi prezentată ca o soluție limitată, dar odată ce societatea acceptă ideea filtrării preventive a mesajelor private de către algoritmi, se deschide calea către întrebarea cine va decide ce va fi căutat în viitor.
Aceasta este teama centrală în jurul scanării pe dispozitiv, un scenariu asociat mai ales cu Chat Control 2.0. În cazul criptării end-to-end, serverul nu poate accesa mesajul. Astfel, singura modalitate de a verifica conținutul înainte de trimitere ar fi ca dispozitivul sau aplicația să analizeze local informația, înainte de a fi criptată. Susținătorii acestei abordări argumentează că astfel criptarea în tranzit rămâne intactă, iar conținutul nu ajunge pe serverele companiilor. Criticii, pe de altă parte, susțin că se introduce, totuși, un filtru obligatoriu pentru utilizator, care poate fi ulterior extins la alte tipuri de conținut.
Riscul politic este cel mai mare aici. O bază de date specifică materialelor de abuz asupra copiilor poate găsi justificare într-o democrație, având în vedere gravitatea scopului. Însă, aceeași arhitectură tehnică ar putea fi adaptată în contexte politice diferite sau în alte jurisdicții pentru a monitoriza conținut extremist, materiale piratate, mesaje considerate dezinformare, opinii ostile statului sau comunicări ale unor grupuri minoritare. Chiar dacă Uniunea Europeană nu intenționează acest lucru acum, precedentul tehnologic este relevant, deoarece software-ul de scanare local nu posedă conștiință civică, ci execută instrucțiunile primite.
Riscul de propagare a supravegherii
Opoziția față de Chat Control nu provine doar din sfera libertariană sau din scepticismul față de autoritățile de la Bruxelles, ci și din partea unor experți în criptografie, securitate și drepturi fundamentale. Aceștia subliniază importanța proporționalității: aplicarea unei rate de eroare, chiar și minime, la sute de milioane de utilizatori poate genera un volum uriaș de alarme greșite. Costurile sunt suportate de persoane nevinovate, de forțe de ordine suprasolicitate de sesizări inutile și de victime reale, care necesită investigații eficiente, nu doar mai mult zgomot automatizat.
Numele sistemului, Chat Control, este un catalizator pentru suspiciunea digitală. Propunerea are o procedură parlamentară complexă, o miză emoțională ridicată, implică companii americane și tehnologii AI cu rate de eroare contestate. Într-un astfel de context, teoriile conspiraționiste pot prospera, simplificând evenimentele reale.
Sursa: Playtech.ro
