L'autorità di controllo di Internet del Regno Unito inasprisce l'approccio al porno deepfake
Ofcom, l'autorità di regolamentazione della sicurezza su Internet del Regno Unito, ha pubblicato un'altra nuova bozza di linee guida mentre prosegue nell'implementazione dell'Online Safety Act (OSA): l'ultima serie di raccomandazioni mira a supportare le aziende interessate nell'adempimento degli obblighi legali di protezione delle donne e delle ragazze da minacce online come molestie e bullismo, misoginia e abuso dell'immagine intima.
Il governo ha affermato che proteggere donne e ragazze è una priorità per l'attuazione dell'OSA. Certe forme di abuso (prevalentemente) misogino, come la condivisione di immagini intime senza consenso o l'uso di strumenti di intelligenza artificiale per creare porno deepfake che prendono di mira gli individui, sono esplicitamente stabilite nella legge come priorità di applicazione .
Il regolamento sulla sicurezza online, approvato dal parlamento del Regno Unito nel settembre 2023 , è stato criticato perché non è all'altezza del compito di riformare i giganti delle piattaforme, nonostante preveda sanzioni sostanziali per la non conformità, fino al 10% del fatturato annuo globale.
Anche gli attivisti per la sicurezza dei bambini hanno espresso frustrazione per il tempo che ci sta mettendo l'attuazione della legge, e dubitano che avrà l'effetto desiderato.
In un'intervista con la BBC a gennaio, persino il ministro della tecnologia Peter Kyle, che ha ereditato la legislazione dal governo precedente, l'ha definita "molto irregolare" e "insoddisfacente". Ma il governo sta mantenendo l'approccio. Parte del malcontento intorno all'OSA può essere ricondotto ai lunghi tempi di attesa concessi ai ministri per l'implementazione del regime, che richiede al parlamento di approvare le linee guida di conformità dell'Ofcom.
Tuttavia, si prevede che l'applicazione delle norme inizierà presto in relazione ai requisiti fondamentali per contrastare i contenuti illegali e la protezione dei minori. Altri aspetti della conformità OSA richiederanno più tempo per essere implementati. E Ofcom ammette che questo ultimo pacchetto di raccomandazioni pratiche non diventerà pienamente applicabile prima del 2027 o più tardi.
"I primi obblighi dell'Online Safety Act entreranno in vigore il mese prossimo", ha detto Jessica Smith di Ofcom, che ha guidato lo sviluppo della guida incentrata sulla sicurezza femminile, a TechCrunch in un'intervista. "Quindi faremo rispettare alcuni degli obblighi principali dell'Online Safety Act prima che questa guida [diventi essa stessa esecutiva]".
La nuova bozza di linee guida per proteggere le donne e le ragazze online intende integrare le precedenti linee guida più ampie dell'Ofcom sui contenuti illegali, che, ad esempio, forniscono anche raccomandazioni per proteggere i minori dalla visione di contenuti per adulti online.
A dicembre, l'autorità di regolamentazione ha pubblicato la versione definitiva delle sue linee guida su come le piattaforme e i servizi dovrebbero ridurre i rischi correlati ai contenuti illegali , un'area in cui la tutela dei minori è una chiara priorità.
Ha anche precedentemente prodotto un Codice di sicurezza per i bambini , che raccomanda ai servizi online di attivare controlli dell'età e filtri dei contenuti per garantire che i bambini non siano esposti a contenuti inappropriati come la pornografia. E mentre lavorava per implementare il regime di sicurezza online, ha anche sviluppato raccomandazioni per tecnologie di garanzia dell'età per siti Web di contenuti per adulti , con l'obiettivo di spingere i siti porno ad adottare misure efficaci per impedire ai minori di accedere a contenuti inappropriati per età.
L'ultima serie di linee guida è stata sviluppata con l'aiuto di vittime, sopravvissuti, gruppi di difesa delle donne ed esperti di sicurezza, secondo Ofcom. Copre quattro aree principali in cui l'ente regolatore afferma che le donne sono colpite in modo sproporzionato dai danni online, vale a dire: misoginia online; pile-on e molestie online; violenza domestica online; e abuso di immagini intime.
La raccomandazione principale di Ofcom esorta i servizi e le piattaforme in ambito ad adottare un approccio "safety by design". Smith ci ha detto che l'ente regolatore vuole incoraggiare le aziende tecnologiche a "fare un passo indietro" e "pensare alla loro esperienza utente nel suo complesso". Mentre ha riconosciuto che alcuni servizi hanno messo in atto alcune misure utili per ridurre i rischi online in quest'area, ha sostenuto che c'è ancora una mancanza di pensiero olistico quando si tratta di dare priorità alla sicurezza di donne e ragazze.
"Quello che chiediamo in realtà è solo una sorta di cambiamento radicale nel funzionamento dei processi di progettazione", ci ha detto, affermando che l'obiettivo è garantire che le considerazioni sulla sicurezza siano integrate nella progettazione del prodotto.
Ha sottolineato l'ascesa dei servizi di intelligenza artificiale per la generazione di immagini, che ha notato aver portato a una crescita "massiccia" dell'abuso di immagini intime tramite deepfake come esempio di come i tecnologi avrebbero potuto adottare misure proattive per ridurre i rischi che i loro strumenti venissero trasformati in armi per colpire donne e ragazze, ma non l'hanno fatto.
"Riteniamo che ci siano cose sensate che i servizi potrebbero fare nella fase di progettazione che aiuterebbero ad affrontare il rischio di alcuni di questi danni", ha suggerito.
Esempi di “buone” pratiche del settore evidenziate dall’Ofcom nella guida includono servizi online che adottano misure quali:
- Rimozione della geolocalizzazione per impostazione predefinita (per ridurre i rischi per la privacy/stalking);
- Condurre test di "abusività" per identificare in che modo un servizio potrebbe essere utilizzato come arma/in modo improprio;
- Adottare misure per aumentare la sicurezza dell'account;
- Progettare messaggi utente che abbiano lo scopo di far riflettere due volte chi posta contenuti offensivi prima di pubblicarli;
- E offrendo strumenti di segnalazione accessibili che consentono agli utenti di segnalare i problemi.
Come nel caso di tutte le linee guida OSA di Ofcom, non tutte le misure saranno rilevanti per ogni tipo o dimensione di servizio, poiché la legge si applica ai servizi online grandi e piccoli e attraversa vari ambiti, dai social media agli appuntamenti online, ai giochi, ai forum e alle app di messaggistica, per citarne alcuni. Quindi, una parte importante del lavoro per le aziende in ambito sarà comprendere cosa significhi conformità nel contesto del loro prodotto.
Quando è stato chiesto a Ofcom se avesse identificato servizi che al momento soddisfano gli standard della guida, Smith ha risposto di no. "C'è ancora molto lavoro da fare in tutto il settore", ha detto.
Ha anche tacitamente riconosciuto che potrebbero esserci crescenti sfide dati alcuni dei passi indietro intrapresi nei confronti di fiducia e sicurezza da alcuni importanti attori del settore. Ad esempio, da quando ha preso il controllo di Twitter e ha rinominato il social network come X, Elon Musk ne ha svuotato il personale di fiducia e sicurezza, a favore del perseguimento di quello che ha definito un approccio massimalista alla libertà di parola.
Negli ultimi mesi, Meta, che possiede Facebook e Instagram, sembra aver adottato alcune misure simili, affermando ad esempio di voler porre fine ai contratti di fact-checking tra trenta parti in favore dell'implementazione di un sistema di "note della comunità" in stile X di etichettatura crowdsourcing sulle controversie sui contenuti.
Smith ha suggerito che la risposta dell'Ofcom a tali cambiamenti di alto livello, in cui le azioni degli operatori potrebbero rischiare di aumentare, anziché ridurre, i danni online, si concentrerà sull'uso della trasparenza e dei poteri di raccolta di informazioni esercitati nell'ambito dell'OSA per illustrare gli impatti e promuovere la consapevolezza degli utenti.
Quindi, in breve, la tattica in questo caso sembra essere quella del "name and shame", almeno in un primo momento.
"Una volta finalizzate le linee guida, produrremo un rapporto [di mercato] ... su chi sta utilizzando le linee guida, chi sta seguendo quali passaggi, che tipo di risultati stanno ottenendo per i loro utenti che sono donne e ragazze, e faremo davvero luce sulle protezioni in atto sulle diverse piattaforme in modo che gli utenti possano fare scelte informate su dove trascorrere il loro tempo online", ci ha detto.
Smith ha suggerito che le aziende che vogliono evitare il rischio di essere pubblicamente umiliate per le scarse prestazioni in materia di sicurezza delle donne potranno rivolgersi alle linee guida di Ofcom per "misure pratiche" su come migliorare la situazione per i propri utenti e affrontare anche il rischio di danni alla reputazione.
"Le piattaforme che operano nel Regno Unito dovranno rispettare la legge britannica", ha aggiunto nel contesto della discussione sulle principali piattaforme che de-enfatizzano la fiducia e la sicurezza. "Quindi ciò significa rispettare gli obblighi di danni illegali e gli obblighi di protezione dei bambini ai sensi dell'Online Safety Act".
"Penso che sia qui che entrano in gioco anche i nostri poteri di trasparenza: se l'industria sta cambiando direzione e i danni stanno aumentando, è qui che saremo in grado di fare luce e condividere informazioni rilevanti con gli utenti del Regno Unito, con i media, con i parlamentari".
Un tipo di danno online per il quale Ofcom sta esplicitamente rafforzando le sue raccomandazioni, ancor prima di iniziare attivamente l'applicazione delle norme OSA, è l'abuso di immagini intime: l'ultima bozza di linee guida suggerisce di utilizzare l'hash matching per rilevare e rimuovere tali immagini abusive, mentre le precedenti raccomandazioni Ofcom non arrivavano a tanto.
"Abbiamo incluso ulteriori passaggi in questa guida che vanno oltre quanto già stabilito nei nostri codici", ha osservato Smith, confermando i piani di Ofcom di aggiornare i suoi codici precedenti per incorporare questa modifica "nel prossimo futuro".
"Questo è un modo per dire alle piattaforme che è possibile anticipare tale requisito obbligatorio seguendo i passaggi stabiliti in questa guida", ha aggiunto.
Secondo Smith, Ofcom ha raccomandato l'uso della tecnologia di hash matching per contrastare l'abuso di immagini intime, a causa di un aumento sostanziale di questo rischio, in particolare in relazione all'abuso di immagini deepfake generate dall'intelligenza artificiale.
"Nel 2023 sono stati segnalati più abusi di immagini intime tramite deepfake che in tutti gli anni precedenti messi insieme", ha osservato, aggiungendo che Ofcom ha anche raccolto ulteriori prove sull'efficacia dell'hash matching per contrastare questo danno.
La bozza delle linee guida nel suo complesso sarà ora sottoposta a consultazione (l'Ofcom inviterà a inviare feedback fino al 23 maggio 2025), dopodiché produrrà le linee guida definitive entro la fine dell'anno.
Dopo ben 18 mesi, l'Ofcom pubblicherà il suo primo rapporto in cui esaminerà le pratiche del settore in questo ambito.
"Stiamo arrivando al 2027 prima di poter produrre il nostro primo rapporto su chi sta facendo cosa [per proteggere le donne e le ragazze online], ma non c'è nulla che impedisca alle piattaforme di agire ora", ha aggiunto.
Rispondendo alle critiche secondo cui l'OSA sta impiegando troppo tempo per essere implementata da Ofcom, ha affermato che è giusto che il regolatore consulti sulle misure di conformità. Tuttavia, con la misura finale che entrerà in vigore il mese prossimo, ha osservato che Ofcom prevede anche un cambiamento nella conversazione che circonda la questione.
“Ciò cambierà davvero il dialogo con le piattaforme, in particolare”, ha previsto, aggiungendo che sarà anche in grado di iniziare a dimostrare progressi nel muovere l’ago quando si tratta di ridurre i danni online.
techcrunch
