Il Ministero dell'Interno del Regno Unito spinge per il blocco della nudità a livello di sistema operativo e la verifica dell'età

Il Ministero dell'Interno del Regno Unito sta esortando Apple e Google a implementare misure di blocco della nudità e di verifica dell'età a livello di sistema operativo, esercitando di fatto pressioni sui giganti tecnologici affinché riprendano la controversa tecnologia di scansione lato client (CSS). Questa tecnologia era stata precedentemente abbandonata a causa di preoccupazioni sulla privacy.

Misure proposte e implementazione

Secondo il quadro proposto, le immagini esplicite verrebbero bloccate di default su smartphone e computer. Gli utenti dovrebbero verificare la propria età tramite controlli biometrici o identificazione ufficiale per superare le restrizioni. Introdotto inizialmente come misura volontaria mirata a ridurre la violenza contro donne e ragazze, il Financial Times riporta che i funzionari hanno suggerito che questi controlli potrebbero diventare obbligatori per tutti i dispositivi venduti nel Regno Unito.

Questo cambiamento rappresenta una significativa deviazione dal regolamentare i contenuti sulle piattaforme social al controllo diretto dell'hardware. Gli attivisti per la privacy avvertono che un tale mandato potrebbe compromettere la crittografia end-to-end (E2EE) creando al contempo un'infrastruttura di sorveglianza sui dispositivi personali. Queste preoccupazioni riecheggiano le critiche che hanno fatto deragliare la proposta di scansione CSAM di Apple nel 2021.

Rilevamento della nudità e verifica dell'età di default

L'iniziativa richiede specificamente ad Apple e Google di integrare algoritmi di rilevamento della nudità direttamente nei loro sistemi operativi iOS e Android. A differenza dei controlli parentali esistenti, che sono opzionali e generalmente gestiti dai tutori, il sistema proposto agirebbe come un filtro predefinito per tutti gli utenti, indipendentemente dalla loro età.

Secondo il Financial Times, questo approccio prevede l'integrazione delle capacità di rilevamento nel profondo dello stack software, consentendo l'intercettazione dei contenuti prima che lascino il dispositivo. Un portavoce del Ministero dell'Interno ha chiarito che “Il Ministero dell'Interno vuole vedere sistemi operativi che impediscano la visualizzazione di qualsiasi nudità sullo schermo a meno che l'utente non abbia verificato di essere un adulto tramite metodi come controlli biometrici o ID ufficiale.”

Estensione ai sistemi desktop

Sebbene l'attenzione iniziale sia sugli smartphone, i funzionari hanno indicato che la politica potrebbe estendersi ai sistemi operativi desktop, inclusi macOS e Windows. Ciò riflette un cambiamento strategico dal rendere i fornitori di servizi responsabili secondo l'Online Safety Act al puntare direttamente sui dispositivi.

Nonostante sia attualmente presentata come una misura volontaria, il governo sta esplorando una legislazione per rendere queste funzionalità obbligatorie per tutti i dispositivi venduti nel Regno Unito. Ulteriori disposizioni potrebbero includere un sistema a livelli di restrizioni sui dispositivi per i criminali condannati. Ad esempio, la proposta suggerisce che i molestatori sessuali di minori sarebbero obbligati a mantenere tali blocchi permanentemente attivi.

Preoccupazioni per la privacy e la sicurezza

L'implementazione del rilevamento della nudità a livello di sistema operativo richiede la tecnologia CSS, poiché le moderne app di messaggistica crittografata come WhatsApp, iMessage e Signal non consentono l'analisi dei contenuti lato server senza compromettere i protocolli di crittografia. Per aggirare questa limitazione, la scansione avverrebbe localmente sul dispositivo prima che i messaggi vengano crittografati e inviati.

Questa proposta rispecchia la tecnologia “NeuralHash” abbandonata da Apple, che mirava a scansionare le foto di iCloud per CSAM direttamente sul dispositivo. Apple ha interrotto il piano nel dicembre 2022 in seguito alle critiche degli attivisti per la privacy, i quali sostenevano che ciò compromettesse la proprietà personale e introducesse un potenziale backdoor per un uso autoritario.

Gli esperti di sicurezza avvertono che sviluppare una capacità di scansione per una categoria di contenuti potrebbe aprire la strada ad applicazioni più ampie, come l'identificazione del dissenso politico o di altri materiali “illegali”. Inoltre, l'IA sul dispositivo potrebbe avere difficoltà a distinguere tra contenuti consensuali per adulti, immagini mediche e materiale artistico, aumentando i rischi di censura automatizzata.

Rendere obbligatoria la scansione a livello di sistema operativo bypassa efficacemente l'E2EE, garantendo ai fornitori di sistemi operativi visibilità sui contenuti che altrimenti rimarrebbero crittografati durante il transito. Per Apple, reintrodurre questa tecnologia contraddirebbe il suo impegno di lunga data per la privacy, che è un pilastro della sua identità di marca.

Confronto con approcci globali

L'approccio hardware-centrico del Regno Unito è in netto contrasto con la strategia centrata sulle piattaforme dell'Australia. L'Australia ha emanato rigide misure di controllo dell'età, come il divieto di accesso ai social media per gli utenti sotto i 16 anni, che ha costretto piattaforme come Meta e Snap a disattivare gli account per gli utenti più giovani. In risposta, Reddit ha avviato una sfida presso l'Alta Corte, sostenendo che limitare la partecipazione dei giovani mina il processo democratico. I funzionari australiani hanno respinto tali affermazioni come retorica guidata dal profitto, con il Ministro della Salute Mark Butler che ha dichiarato: “L'idea che questa sia un'azione di Reddit per proteggere le libertà politiche dei giovani è una completa sciocchezza.”

Questi approcci divergenti illustrano una tendenza crescente verso regolamentazioni specifiche per regione, complicando le operazioni per le piattaforme tecnologiche globali. Personalizzare le infrastrutture per conformarsi ai vari mandati locali rischia di degradare l'universalità dell'esperienza utente.

Sfide nell'applicazione

L'applicazione del mandato proposto dal Regno Unito presenta sfide uniche nei diversi ecosistemi. Il modello “giardino recintato” di Apple consente un controllo più stretto, rendendo più facile implementare i mandati a livello di sistema operativo. Al contrario, l'ecosistema aperto di Android presenta significativi ostacoli all'applicazione. Ad esempio, gli utenti potrebbero potenzialmente aggirare le restrizioni effettuando il rooting dei propri dispositivi o installando ROM personalizzate.

Inoltre, centralizzare la verifica dell'età tramite dati biometrici introduce significativi rischi per la privacy. Un database di identità verificate legate all'uso dei dispositivi diventerebbe un obiettivo altamente attraente per gli hacker. Costringere gli utenti adulti a fornire dati biometrici o un documento di identità ufficiale per accedere a contenuti legali introduce ulteriori ostacoli, potenzialmente spingendo gli utenti verso VPN o dispositivi non regolamentati. Inoltre, l'infrastruttura necessaria per verificare l'identità di milioni di utenti potrebbe comportare costi significativi, probabilmente trasferiti ai consumatori.