La proposta dell’UE per la tutela dei minori online potrebbe diventare un incubo per la privacy

Potrebbero usare una mazza per rompere un dado. Il materiale pedopornografico nei canali online ha raggiunto livelli senza precedenti, ma la soluzione proposta per arginare questa minaccia non piace ai sostenitori della privacy.

La Commissione europea (CE) ha recentemente proposto nuove norme che impongono alle app di chat come WhatsApp e Facebook Messenger di setacciare i messaggi privati degli utenti segnalati alla ricerca di materiale pedopornografico (CSAM). 

“Si tratta di una proposta incredibilmente coraggiosa e ambiziosa, volta a prevenire sistematicamente gli abusi e l’adescamento di minori evitabili, che si stanno verificando a livelli record”, ha dichiarato via e-mail a Lifewire Andy Burrows, responsabile della sicurezza online dei minori presso la National Society for the Prevention of Cruelty to Children (NSPCC). “Se approvata, la direttiva imporrà alle piattaforme un chiaro obbligo di combattere gli abusi ovunque essi avvengano, anche nella messaggistica privata, dove i bambini sono maggiormente a rischio”.

Fine dell’End-to-End?

Il regolamento mira a stabilire nuove regole per le piattaforme online, collettivamente denominate fornitori di servizi online, e copre un’ampia gamma di servizi tra cui app store, società di web hosting e qualsiasi fornitore di “servizi di comunicazione interpersonale”.

L’aspetto della proposta che ha suscitato qualche malumore tra i gruppi che si occupano di privacy è l’obbligo che si applicherebbe ai servizi di messaggistica come WhatsApp e Facebook Messenger. 

Secondo la proposta, se e quando un servizio di messaggistica riceve un “ordine di rilevamento” da parte della CE, sarà tenuto a scansionare i messaggi degli utenti segnalati per cercare prove di CSAM e altri comportamenti abusivi nei confronti dei bambini. Invece di impiegare gli esseri umani per questo compito, la proposta prevede l’uso di strumenti di apprendimento automatico (ML) e di intelligenza artificiale (AI) per esaminare le conversazioni.

Margaritis Schinas, vicepresidente per la promozione del nostro stile di vita europeo, ha sottolineato che la proposta prevede anche l’introduzione di misure di salvaguardia per evitare abusi. “Stiamo solo parlando di un programma che scansiona i marcatori di contenuti illegali, allo stesso modo in cui i programmi di sicurezza informatica eseguono controlli costanti per individuare eventuali violazioni della sicurezza”, ha osservato Schinas nell’annuncio della Commissione europea.

Gli organismi che si occupano della tutela dei bambini anche su sito su cui non potrebbero andare, come Casino777 casino e tanti altri, si sono espressi a favore della proposta. “Questa proposta innovativa potrebbe stabilire lo standard per una regolamentazione che bilanci i diritti fondamentali di tutti gli utenti di Internet e dia priorità alla protezione dei bambini“, ha affermato Burrows.

Forconi e torce

Tuttavia, i difensori della privacy sostengono che la proposta scoraggia efficacemente l’uso della crittografia end-to-end.

“Minacciando le aziende di intraprendere azioni legali, la Commissione sta probabilmente cercando di lavarsi le mani dalla responsabilità di misure pericolose e invasive della privacy, incentivandole di fatto con la legge”, ha commentato Ella Jakubowska, Policy Advisor del gruppo di difesa digitale European Digital Rights (EDRi) in un comunicato stampa.

EDRi sostiene che le misure contenute nella proposta mettono a rischio l’integrità vitale delle comunicazioni sicure, arrivando ad affermare che le nuove norme “costringerebbero le aziende a trasformare i nostri dispositivi digitali in potenziali spyware”. Il documento si oppone inoltre all’uso di strumenti di scansione basati sull’intelligenza artificiale, definendoli “notoriamente imprecisi”. 

Dimitri Shelest, fondatore e CEO di OneRep, un’azienda che si occupa di privacy online e che aiuta le persone a rimuovere le loro informazioni sensibili da Internet, è fermamente convinto che nessun governo o app di social media debba scansionare i messaggi privati degli utenti, nemmeno in modo selettivo. 

“Legittimando questo tipo di sorveglianza, apriamo il vaso di Pandora e creiamo molteplici opportunità di abuso delle informazioni ottenute come risultato di questa intrusione nella privacy“, ha dichiarato Shelest a Lifewire via e-mail.

Jakubowska è d’accordo. Nel comunicato stampa si chiede se oggi le aziende sono autorizzate a scansionare i nostri messaggi privati, cosa impedisce ai governi di obbligarle a “scansionare le prove di dissidenza o di opposizione politica domani?“.

Tuttavia, tutto questo potrebbe essere inutile. Jesper Lund, presidente di IT-Pol Danimarca, ritiene che alcuni aspetti della proposta potrebbero non essere attuabili. 

“La proposta prevede l’obbligo per i fornitori di servizi Internet di bloccare l’accesso a specifici contenuti sui siti web su ordine delle autorità nazionali“, spiega Lund nel comunicato stampa dell’EDRi. “Tuttavia, questo tipo di blocco sarà tecnicamente impossibile con l’HTTPS, che è ormai utilizzato da quasi tutti i siti web“.

Alla domanda se la violazione della privacy sia l’unico modo per salvaguardare i bambini online, Shelest ha risposto con un secco “No”. Egli ritiene che una soluzione realmente praticabile combini il coinvolgimento dei genitori con il supporto della tecnologia, che potrebbe aiutare i genitori a tenere sotto controllo le attività online dei loro figli.

“Un buon inizio sarebbe che i giganti della tecnologia come Apple e Google fornissero sulle loro piattaforme capacità più ampie per supportare i genitori con un’automazione più avanzata“, ha suggerito Shelest. “La chiave è supportare i genitori nell’assistenza ai loro figli“.