Fallimento tecnico

adminaccount888 Ultime notizie

Questo è un guest post di John Carr, il principale pensatore del Regno Unito sulla rimozione di immagini di abusi sui minori da Internet. Il blog originale sulle indagini del New York Times è apparso su John's Desiderata sito web. Abbiamo pubblicato altri blog recenti di John qui, qui e qui.

A settembre il New York Times ha prodotto il primo di una serie di articoli in cui si sono concentrati sulla risposta dell'industria di Internet alla crescita esplosiva nel rilevamento di materiale pedopornografico online (csam).

Hanno iniziato con le statistiche fornite da NCMEC. Nel 1998 hanno ricevuto 3,000 segnalazioni di csam. Il numero del 2018 è stato di 18.4 milioni di rapporti, facendo riferimento a 45 milioni di immagini fisse e video di CSAM.

Siamo stati informati in a articolo successivo nel 2013 sono stati segnalati meno di 50,000 video csam. Nel 2018 sono stati fino a 22 milioni. Il video è stata la principale area di crescita. Il Centro canadese per la protezione dei minori e il Regno Unito Internet Watch Foundation hanno assistito a livelli di crescita simili.

Per quanto scioccanti siano questi numeri, probabilmente ciò che dimostrano è semplicemente la maggiore diffusione proattiva e l'efficacia degli strumenti utilizzati per rilevare csam da un numero relativamente piccolo di società Internet.

Tuttavia, ciò che gli articoli del New York Times hanno mostrato principalmente è stata l'inadeguatezza della risposta del settore più ampio di Internet e in effetti l'inadeguatezza della risposta di alcuni dei principali attori del settore. Siamo stati condotti lungo il sentiero del giardino.

Se la sicurezza e la protezione dei bambini fossero davvero incorporato nella cultura di un'azienda, storie del genere pubblicate dal New York Times semplicemente non sarebbero possibili. Eppure sono apparsi per anni, se mai prima d'ora, con dettagli così forensi.

La coalizione tecnologica

Nel 2006 il Coalizione tecnologica fu fondato. Ecco la sua missione dichiarata

La nostra visione è quella di sradicare lo sfruttamento sessuale dei minori online. Abbiamo investito nella collaborazione e nella condivisione di competenze reciproche, perché riconosciamo che abbiamo gli stessi obiettivi e affrontiamo molte delle stesse sfide.

Questa è la rubrica standard. Lo senti tutte le volte. Da tutti. Non è vero.

I maltrattatori di bambini corrono dilaganti mentre le aziende tecnologiche guardano dall'altra parte

Questo era il titolo del secondo articolo nella serie del New York Times. Spazza via completamente la facciata di un energico e deciso impulso dell'industria collettiva a sbarazzarsi di CSAM da Internet.

Ecco alcuni estratti del pezzo:

Le aziende hanno gli strumenti tecnici per fermare il ricircolo delle immagini degli abusi abbinando le immagini appena rilevate ai database del materiale. Eppure l'industria non sfrutta appieno gli strumenti.

Nello specifico ci hanno detto

Il più grande social network del mondo, Facebook, analizza a fondo le sue piattaforme, rappresentando oltre il 90 percento delle immagini contrassegnate dalle società tecnologiche lo scorso anno, ma l'azienda non utilizza tutti i database disponibili per rilevare il materiale ... (Enfasi aggiunta).

Apple non esegue la scansione del suo archivio cloud…. e crittografa la sua app di messaggistica, rendendo il rilevamento praticamente impossibile. Dropbox, Google e i prodotti di consumo di Microsoft cercano immagini illegali, ma solo quando qualcuno le condivide, non quando vengono caricate.

… Altre società, comprese…. Yahoo (di proprietà di Verizon), cerca foto ma non video, anche se i contenuti video illeciti stanno esplodendo da anni. 

Secondo l' di stima

Non esiste un unico elenco di hash di immagini e video che tutte le società interessate possono utilizzare.

Google e Facebook hanno sviluppato strumenti per rilevare video CSAM diversi e incompatibili. Un piano per creare un processo per la condivisione di video "Impronte" (hash per accelerare il rilevamento) apparentemente lo ha andato da nessuna parte. 

C'è più

Le aziende tecnologiche sono molto più propense a rivedere foto, video e altri file sulle loro piattaforme per…. rilevamento di malware e applicazione del copyright. Ma alcune aziende affermano che la ricerca di contenuti illeciti è diversa perché può sollevare notevoli problemi di privacy.

Amazon, certamente non un membro della Coalizione tecnologica, ma il più grande fornitore mondiale di servizi cloud, esegue la scansione per nulla.

Un portavoce di Amazon…. ha affermato che "la privacy dei dati dei clienti è fondamentale per guadagnare la fiducia dei nostri clienti", …… Microsoft Azure ha anche affermato di non aver analizzato il materiale, citando ragioni simili.

Ad un certo punto sarà interessante decostruire cosa "Fiducia dei clienti" significa davvero.

E sappiamo tutto questo perché ...

Come abbiamo saputo di tutto questo? È emerso come risultato di dichiarazioni aperte da parte delle società tecnologiche? Ovviamente no. A seguito di un'attenta analisi da parte di un team dedicato di accademici? No. La verità è stata rivelata da un corpo di polizia, da una ONG o da un'agenzia governativa che alla fine ha deciso che l'omertà non era nell'interesse pubblico? No.

Abbiamo acquisito queste intuizioni perché la direzione del New York Times ha deciso di dare a due giornalisti, Michael Keller e Gabriel Dance, lo spazio e le risorse per perseguire una storia evidentemente importante.

Ho incontrato questi ragazzi per la prima volta negli uffici del New York Times lo scorso lunedì, ma ho parlato con loro inizialmente a giugno. Avevano indagato su Csam da febbraio, volando in giro (letteralmente), parlando con una moltitudine di persone, mettendo insieme le cose dal registro e dalle fonti del disco.

È stato uno sforzo gigantesco che ha avuto un impatto proporzionato sulla prima pagina del giornale. Sembra che stia avendo l'effetto desiderato.

Una lettera di cinque senatori

Una conseguenza immediata degli articoli del New York Times è emersa la scorsa settimana quando cinque senatori statunitensi (due democratici, tre repubblicani) ha scritto in modo impressionante lettera dettagliata a trentasei aziende tecnologiche. Includono tutti i membri della Technology Coalition e molti altri ancora. I senatori vogliono risposte entro 4 di dicembre.

Vediamo come rispondono le aziende. La lettera contiene tutte le domande giuste. Sono precisamente il tipo che le aziende tecnologiche dovrebbero essere legalmente obbligate a rispondere. Una volta che le elezioni nel Regno Unito saranno finite, speriamo di poter muoverci rapidamente per stabilire un forte regolatore che possa chiedere loro fiduciosi che riceveranno risposte veritiere. Qualsiasi esitazione o rifiuto da parte delle società statunitensi a rispondere alla lettera dei senatori non farà che aumentare un senso di urgenza qui.

Il New York Times ha aiutato i bambini di tutto il mondo

I bambini di tutto il mondo devono molto a Keller e Dance e ai loro capi, ma è quasi scandaloso che ci sia voluto un giornale per aprirlo. Dov'è l'ente di interesse pubblico che dispone delle risorse e della capacità di tenere traccia e riferire costantemente nel tempo su questioni di questo tipo? Non esiste. Dovrebbe.

Ho sostenuto per anni che abbiamo bisogno di un Osservatorio globale, tra le altre cose per fare regolarmente ciò che il New York Times ha fatto una tantum. Da qualche parte ci deve essere un'agenzia indipendente dotata di risorse adeguate che abbia gli interessi dei bambini al centro e le industrie ad alta tecnologia nel mirino. Ma un tale organismo deve essere sostenibile nel tempo. Questa è una cosa grande e costosa da fare, ma ci proverò di nuovo.

Stampa Friendly, PDF e Email

Condividi questo articolo