l Washington Post ha riferito dell'aumento delle aziende private che utilizzano l'intelligenza artificiale per utilizzare la tecnologia di riconoscimento facciale per determinare l'età degli utenti. La tecnologia è commercializzata su siti come TikTok come un modo per impedire l’accesso da parte dei bambini.

Il Dipartimento di Giustizia degli Stati Uniti (DOJ) ha citato in giudizio TikTok la scorsa settimana, accusando la piattaforma di violare palesemente il Children's Online Privacy Protection Act (COPPA), la legge COPPA e una decisione della Federal Trade Commission del Dipartimento di Giustizia degli Stati Uniti (DOJ). (FTC) sulla raccolta illegale di informazioni personali di bambini.

La causa, depositata presso un tribunale federale in California, sostiene che TikTok ha raccolto "vasti dati" da bambini sotto i 13 anni senza il consenso dei genitori, ha consentito agli utenti sotto i 13 anni di creare e mantenere account e che non ha rispettato le richieste dei genitori di eliminare i dati dei loro figli. account e informazioni personali.

La causa - l'ultima di una serie di azioni del governo statunitense contro la piattaforma - fa seguito a una denuncia presentata nel 2020 da diversi gruppi di difesa, tra cui l'Electronic Privacy Information Center (EPIC), per presunta violazione del COPPA da parte di TikTok.

Ad aprile, il presidente Joe Biden ha firmato una legge che vieta TikTok negli Stati Uniti se la sua società madre cinese non venderà le attività statunitensi della piattaforma di social media entro gennaio 2025.

L'annuncio del Dipartimento di Giustizia fa seguito a un rapporto del Washington Post di mercoledì che evidenzia la crescita delle aziende private che utilizzano la tecnologia di riconoscimento facciale dell'intelligenza artificiale (AI) per identificare l'età degli utenti. La tecnologia è commercializzata su siti come TikTok come un modo per impedire l’accesso da parte dei bambini.

Secondo il rapporto, la tecnologia, soggetta a falsi positivi, ha sollevato preoccupazioni sulla privacy tra i genitori. Tuttavia, secondo il Post, 19 stati hanno approvato leggi che richiedono la verifica dell’età online. Tuttavia, queste leggi hanno dovuto affrontare ostacoli legali e costituzionali per motivi di censura e libertà di espressione.

Eva Galperin, direttrice della sicurezza informatica presso la Electronic Frontier Foundation (EFF), ha dichiarato a The Defender: “Di tutti gli sforzi che i nostri legislatori e il governo degli Stati Uniti hanno compiuto per perseguire TikTok e limitarne la portata, questo è probabilmente quello più sensato. Questo è uno con i denti”.

Tuttavia, Galperin ha osservato che altre piattaforme di social media si sono impegnate in pratiche simili. Ha detto:

“Il Dipartimento di Giustizia ha intrapreso azioni contro altre società di social media per violazioni del COPPA. Quando la Camera ha votato per bandire TikTok per violazioni della privacy e altri comportamenti, l’ho trovato piuttosto scandaloso, e il motivo era perché non c’era quasi nulla di cui la Camera accusasse TikTok che non fosse già stato fatto da quasi tutte le altre società di social media. La società di media negli Stati Uniti era stata completata.

"L'unica differenza è che è stato prodotto da un'azienda cinese e non da un'azienda europea o statunitense."

Galperin ha fatto un esempio:

"Si scopre che Google regalava Chromebook gratuitamente agli scolari e non avrebbe dovuto registrare nulla di ciò che facevano a scuola, ma in realtà raccoglieva questi dati."

Galperin ha affermato che la denuncia del EFF del 2015 contro Google ha portato a un ulteriore controllo normativo sulle pratiche di Google.

Secondo Tim Hinchliffe, direttore di The Sociable, l’uso della tecnologia di riconoscimento facciale da parte delle piattaforme di social media e di altri siti web e servizi online rappresenta un rischio significativo per i bambini.

Hinchliffe ha detto:

“I rischi del riconoscimento facciale tramite intelligenza artificiale per i bambini superano i benefici. Nel corso della nostra esistenza umana, ci sono sempre state persone chiamate genitori per proteggere i bambini. Se un genitore non vuole che il volto del proprio figlio venga catturato e archiviato in un database, dovrebbe avere il potere e il controllo per impedire che questa tecnologia venga applicata ai propri figli senza pregiudizi”.

Hinchliffe ha inoltre avvertito che l’uso diffuso di tali tecnologie da parte dei bambini potrebbe portare a una normalizzazione del loro utilizzo.

"Gli scanner facciali basati sull'intelligenza artificiale nei programmi per bambini insegnano loro fin dalla tenera età ad accettare di non avere privacy, ed è il passo successivo verso un passaporto Internet basato sull'identità digitale che rimuove ogni anonimato", ha affermato Hinchliffe.

TikTok ha installato “backdoor” che consentono ai bambini piccoli di accedere alla sua piattaforma

Secondo la FTC, TikTok e la sua società madre ByteDance "erano presumibilmente consapevoli della necessità di rispettare la norma COPPA e il Consent Order del 2019 ed erano consapevoli delle mancanze di TikTok nel rispetto delle norme che mettevano a rischio i dati e la privacy dei bambini".

Ma invece di rispettare le norme, la denuncia afferma che:

“Per anni, milioni di bambini americani sotto i 13 anni hanno utilizzato TikTok e gli imputati hanno raccolto e archiviato le informazioni personali dei bambini”.

La FTC ha scritto che a partire dal 2020, TikTok ha utilizzato “revisori umani” per determinare se un utente aveva meno di 13 anni, ma “in media ha trascorso solo dai cinque ai sette secondi esaminando ciascun account per determinare se l’account apparteneva a un utente figlio” .

La piattaforma avrebbe poi continuato a raccogliere dati personali di questi bambini, “compresi dati che consentivano a TikTok di indirizzarli con la pubblicità – senza avvisare i genitori e ottenere il loro consenso, come richiesto dalla norma COPPA”.

Secondo la FTC, nella piattaforma TikTok sono state integrate delle “backdoor” che consentivano ai bambini di aggirare il limite di età progettato per escludere i bambini sotto i 13 anni. Ciò includeva l’utilizzo di credenziali importate da altre piattaforme Big Tech come Google e Instagram. TikTok ha classificato questi account come “età sconosciuta”.

TikTok ha utilizzato i dati raccolti per “creare profili di bambini” e “condividere queste informazioni personali con terze parti come Facebook e AppsFlyer”. Secondo quanto riferito, la piattaforma ha inoltre reso difficile per i genitori richiedere la cancellazione degli account dei propri figli e spesso ha ignorato le richieste di cancellazione dei genitori.

Il boom del settore della “sicurezza pensionistica” sta portando a un “incubo autoritario”.

Secondo il Washington Post, le preoccupazioni riguardo all’accesso dei bambini a contenuti online inappropriati per l’età hanno alimentato “un’industria in forte espansione di scanner dell’età basati sull’intelligenza artificiale che prendono di mira i volti dei bambini”, composta da “un gruppo poco conosciuto di aziende in un angolo sperimentale del settore tecnologico noto come "sicurezza pensionistica".

Questi controlli sull’età, che “si basano su un tipo di sorveglianza che va da “una certa invasione della privacy” a “un incubo autoritario”, secondo il Post, mettono in pericolo la privacy di tutti gli utenti di Internet e lasciano “i bambini – e tutti gli altri – vulnerabili a "un'esposizione che raramente si verifica su Internet aperta".

Mentre la sicurezza dell'età "potrebbe dare ai genitori un maggiore senso di controllo e tranquillità", il Post riferisce che la raccolta e la centralizzazione dei dati personali e biometrici degli utenti "aumenta la probabilità che possano essere hackerati, condivisi o utilizzati in modo improprio".

Il Post ha citato aziende come Yoti, Incode e VerifyMyAge, che ha descritto come "guardiani digitali" che hanno sviluppato una tecnologia che chiede agli utenti di verificare la propria età facendo un "video selfie", spesso tenendo una carta d'identità ufficiale davanti alla telecamera. Gli strumenti di intelligenza artificiale determinano quindi l’età dell’utente in base alle caratteristiche biometriche.

Le principali piattaforme di social media e servizi online come TikTok, Facebook, Instagram e OpenAI, nonché diversi siti Web rivolti agli adulti, ora utilizzano tali strumenti di verifica dell’età. 19 stati – tra cui Florida, Texas e Virginia – hanno approvato o promulgato leggi che richiedono la verifica dell’età online.

Il Post afferma che tali leggi hanno "creato una miniera d'oro" e cita l'esempio della società di verifica dell'età Incode di San Francisco, che ora sta "tracciando le fatture statali internamente e contattando i funzionari locali per... capire dove... si adatta la nostra tecnologia". In."

Foto e dati di bambini sono un bersaglio “allettante” per gli hacker

Anche l'espansione dei servizi di verifica dell'età online – e il crescente numero di stati che hanno approvato leggi sulla verifica dell'età online – hanno suscitato critiche e preoccupazioni, ha affermato il Post:

“I sostenitori di questi strumenti riconoscono che i controlli sull’età potrebbero comportare una profonda espansione del controllo governativo sulla vita online. Ma i critici sostengono che i legislatori che sperano di proteggere i bambini potrebbero invece esporre gli utenti di tutte le età a rischi terribili, costringendoli a condividere dettagli intimi della loro vita con aziende che sono in gran parte non testate, non regolamentate e sconosciute”.

Tali preoccupazioni esistono nonostante le assicurazioni di aziende come Incode e Yoti di eliminare le immagini dopo aver analizzato il volto di un utente.

Galperin ha affermato che i dati raccolti da queste società sono ospitati in "grandi database che contengono foto di persone con i loro veri nomi, i loro documenti d'identità, i loro indirizzi e tutti i tipi di informazioni sensibili - e stanno semplicemente lì".

Ciò li rende un bersaglio “allettante” per gli hacker, ha affermato Galperin, e comporta anche il rischio di violazione o fuga di dati.

"Si tratta anche di informazioni che hanno il potenziale per diventare pubbliche, non solo attraverso gli hacker, ma anche perché le aziende commettono errori e le informazioni finiscono su Internet", ha affermato.

L'avvocato specializzato in privacy con sede in California, Greg Glaser, ha confrontato i database centralizzati contenenti dati biometrici di bambini con la "pedofilia legalizzata" e ha dichiarato a The Defender che tali dati, che potrebbero contenere "immagini del corpo intero e parziale di bambini" in ambienti privati, sarebbero a rischio. arrivare “nel dark web”.

"A questo punto della storia, è ovvio che i sistemi informatici non sono progettati per rispettare la morale tradizionale, come la santità di un'infanzia innocente", ha detto Glaser.

Hinchliffe ha affermato che potrebbero essere raccolti anche i dati dei singoli utenti, mettendoli a rischio di profilazione, poiché "i database manterrebbero un registro completo delle fasi della vita di ogni bambino". Ha aggiunto:

“I ricercatori affermano che l’intelligenza artificiale può rilevare la sessualità anche da una singola foto. Immagina quali conclusioni possono trarre sui bambini sottoposti a scansione nel corso della loro vita. Gli scanner facciali con intelligenza artificiale saranno in grado di distinguere un liberale da un conservatore? L’intelligenza artificiale può trarre conclusioni su una persona in base al tipo di abbigliamento, al colore dei capelli, all’etnia, alla microespressione o ai tatuaggi?”

Galperin ha anche avvertito che gli autori di abusi domestici e gli stalker potrebbero sfruttare i dati trapelati dai database della previdenza pensionistica.

"Uno degli scenari di rapimento più comuni negli Stati Uniti è tipicamente il rapimento di un bambino quando i genitori sono divorziati ma solo un genitore ha ottenuto la custodia e il genitore non affidatario essenzialmente prende il bambino", ha detto Galperin. “Questa tecnologia potrebbe mettere le persone in pericolo reale”.

“Se gli adulti imparassero in prima persona come il riconoscimento facciale dell’intelligenza artificiale può essere usato contro di loro, penso che sarebbero più riluttanti a usare la stessa tecnologia sui loro figli. Ma se la tecnologia fosse usata prima sui bambini, i genitori si renderebbero conto della portata delle conseguenze distopiche?”

Anche gli attori statali e privati ​​potrebbero fare uso di tali dati. Galperin disse:

“Questi dati potrebbero anche attirare gli inserzionisti e i data broker che amano questo tipo di informazioni per scopi pubblicitari mirati. Interessano anche i governi e le forze dell’ordine che acquistano regolarmente dati da data broker per evitare il fastidio di ottenere un mandato di perquisizione o un mandato di comparizione in tribunale per determinati tipi di dati”.

Altri sostengono che, nonostante le promesse dell’intelligenza artificiale, la tecnologia di protezione dell’età spesso produce falsi positivi che possono escludere gli utenti legittimi dai servizi online.

Il Post ha citato i dati del National Institute of Standards and Technology, secondo cui le stime dell'età "sono generalmente accurate entro circa tre anni", e di Instagram, che ha scoperto che i controlli sull'età hanno fermato il 96% degli adolescenti che hanno tentato di utilizzare i propri account per passare a apparire di età superiore ai 18 anni.

Ma questo esclude ancora molti utenti potenzialmente legittimi, con alcuni gruppi particolarmente a rischio. Il Post ha scoperto che il tasso di fallimento dei sistemi è più alto per le ragazze e le donne che per i ragazzi e gli uomini, e che le persone con determinate disabilità che incidono sul loro aspetto sono spesso escluse.

“Se la tua soluzione presenta qualche tipo di falso positivo, stai essenzialmente escludendo da Internet persone che non dovrebbero essere escluse. Qualsiasi soluzione che produca tali falsi positivi è inaccettabile”, ha affermato Galperin.

Quando Yoti ha chiesto alla FTC l'anno scorso di approvare la stima dell'età come mezzo per ottenere il consenso dei genitori, più di 300 commenti presentati durante il periodo di commento pubblico si sono opposti alla proposta, ha riferito il Post. La FTC alla fine ha rifiutato la proposta di Yoti.
fonte