Chat Control: UE vrea să scaneze mesajele private, chiar și pe WhatsApp și Signal

WhatsApp și Signal rămân, pentru moment, singurele colțuri sigure ale telefonului tău. Trimiți o poză pe o aplicație necriptată, în schimb, iar aceasta poate fi deja verificată de un algoritm înainte ca destinatarul să apese pe ecran. Diferența asta, nu un slogan de tipul „UE îți citește mesajele”, e miezul disputei care ține Bruxelles-ul în alertă de câteva luni bune.

Proiectul se numește „Controlul conversațiilor”, cunoscut mai ales sub denumirea în engleză, Chat Control. Scopul declarat e combaterea materialelor cu abuz sexual asupra copiilor, distribuite online. Metoda propusă pentru a ajunge acolo, însă, a scos în stradă activiști pentru drepturile digitale și a împărțit statele membre în două tabere ireconciliabile.

Ce se scanează acum și ce ar putea urma

Există în acest moment un regulament temporar, valabil până în 2028, care permite platformelor să scaneze voluntar mesaje, fotografii și clipuri video în căutare de conținut ilegal. Regula nu se aplică, cel puțin nu în același fel, serviciilor criptate integral, precum WhatsApp sau Signal.

Paralel, se negociază o variantă permanentă, botezată informal Chat Control 2.0. Întrebarea care ține în loc întreaga discuție e simplă: va ajunge acest regulament să vizeze și conversațiile criptate? Nimeni, la Bruxelles, nu are încă un răspuns ferm.

Cum decide un algoritm ce e suspect

Sistemele de detectare funcționează, în esență, în două moduri. Primul e compararea de hash-uri: o imagine devine o amprentă criptografică, comparată apoi cu o bază de date de material confirmat ilegal. Metodă rapidă, precisă pentru copii identice ale unui fișier, dar ușor de păcălit cu o modificare minoră a imaginii.

Al doilea mod e clasificarea prin învățare automată, folosită pentru conținut nou și, mult mai controversat, pentru scanarea textului în căutare de tipare de limbaj asociate cu ademenirea minorilor.

Patrick Breyer, jurist, activist pentru drepturile digitale și fost europarlamentar din partea Verzilor, spune că ambele metode sunt mult mai puțin fiabile decât cred autoritățile. Compararea hash-urilor, cea considerată mai precisă, „prezintă o rată foarte ridicată de rezultate fals pozitive, care incriminează pe nedrept persoane”, a explicat el, citând Germania, unde peste jumătate din sesizări nu au relevanță penală.

Problema, potrivit lui Breyer, vine chiar din amonte. Bazele de date cu material ilegal sunt create și verificate, de multe ori, în afara Europei, fără o evaluare juridică riguroasă a intenției, condiție esențială ca un element să conteze penal. Angajați ai furnizorilor, oriunde s-ar afla ei în lume, introduc informații în aceste baze fără filtrul legal necesar.

Pe telefon sau pe server: unde se face verificarea

Pe platformele necriptate, verificarea are loc direct pe serverele furnizorului. La aplicațiile criptate integral, furnizorul nu mai poate citi mesajul odată criptat, așa că detectarea trebuie să se producă mai devreme, pe dispozitivul utilizatorului, înainte de criptare, sau într-un strat hardware separat, construit special pentru asta.

Procedeul se numește scanare pe partea clientului. Explică, de fapt, de ce disputa privind criptarea nu se stinge: mesajul e inspectat cât încă poate fi citit, „înainte ca lacătul să se închidă”, nu interceptat mai târziu, pe drum.

Ce urmează după ce un mesaj e marcat drept suspect

Un mesaj semnalat nu ajunge automat la poliție. Potrivit unor furnizori precum Google, o potrivire, fie din compararea de hash-uri, fie generată de un model de inteligență artificială, trece de obicei prin evaluatori umani angajați de companie, care confirmă suspiciunea înainte de orice raportare oficială. Aici, spune Breyer, sistemul se blochează la scară largă.

Evaluatorii lucrează cu standarde juridice diferite de la caz la caz, nu stabilesc mereu intenția și clasifică frecvent greșit mesaje sexuale banale între adolescenți sau poze făcute chiar de ei, trimise ca glumă într-un grup. Mulți dintre minorii vizați de aceste sesizări, observă activistul, n-au avut nicio intenție să trimită sau să primească ceva ilegal. Doar au redirecționat ceva într-un chat de grup „despre altceva”.

Textul e o problemă separată și mai complicată. Limbajul folosit de cei care ademenesc copii poate fi identic cu o conversație obișnuită între adolescenți sau adulți, motiv pentru care cercetătorii consideră detectarea bazată pe text drept cel mai șubred strat al sistemului. Extinderea unei viitoare reguli de la imagini la conversații scrise ar multiplica exact problema fals-pozitivelor descrisă de Breyer.

Alternativa: mandat judecătoresc, nu scanare în masă

Breyer nu respinge ideea de detectare în sine. Respinge, în schimb, aplicarea ei la scară largă, pe toată lumea. Scanarea e justificată, spune el, doar când „o instanță independentă confirmă” o suspiciune rezonabilă împotriva unei persoane anume, comparabil cu un mandat pentru deschiderea corespondenței. Verificarea tuturor „doar pentru orice eventualitate” înseamnă, în opinia lui, cu totul altă categorie de intruziune.

Ca alternativă, propune două direcții: scanarea proactivă a web-ului deschis și a dark web-ului pentru material deja cunoscut ca ilegal, cu raportare pentru eliminare, metodă folosită deja în Regatul Unit și Canada, dar nu în UE, și principiul „securității prin proiectare”, în care aplicația avertizează utilizatorul direct pe telefon înainte să trimită un număr de telefon sau o imagine nud, fără ca vreun conținut să părăsească vreodată dispozitivul.

Pentru moment, soarta unui mesaj depinde strict de aplicația prin care circulă. Pe platformele necriptate, poate fi identificat prin amprentă digitală, scanat algoritmic, verificat de oameni și raportat, dacă e cazul. Pe WhatsApp sau Signal, niciuna din etapele astea nu se aplică, cel puțin nu încă. Negocierile de la Bruxelles pentru varianta permanentă a Chat Control ar putea, totuși, să schimbe linia asta în lunile următoare.