Primo verdetto della Commissione UE: il feed ‘Per te’ di Tik Tok viola la legge sui servizi digitali (DSA)

Bruxelles – È definito l’effetto “tana del coniglio”: quel meccanismo per cui, guardando un video sui social, l’algoritmo ti propone in automatico altri contenuti simili o via via più estremi, risucchiando gli utenti in una catena di visualizzazioni senza fine. Tale effetto è presente nel sistema di raccomandazione ‘Per Te’ dei contenuti di TikTok e per questo oggi (6 novembre), la Commissione europea ha accertato in via preliminare che il colosso cinese viola la legge europea sui servizi digitali (DSA) –  la normativa europea creata per rendere lo spazio online più sicuro, trasparente e responsabile. La vicepresidente esecutiva con deleghe alla Sovranità tecnologica, la sicurezza e la democrazia, Henna Virkkunen, ha dichiarato: “Ogni volta che un utente scorre o mette ‘mi piace” a un video su TikTok, l’algoritmo propone altri contenuti simili, trascinando gli utenti in percorsi da cui non è facile uscire‘”.

Un funzionario europeo vicino al dossier ha spiegato che la valutazione è “frutto di un intenso lavoro di raccolta di prove, conduzione di esperimenti, interviste e analisi di ricerche accademiche”. Le conclusioni preliminari odierne di Palazzo Berlaymont si sono concentrate su due elementi: la valutazione dei rischi e le misure di mitigazione, definiti dal funzionario dei “rimedi specifici che chiediamo a TikTok di prendere in considerazione”.

La valutazione dei rischi

Secondo Palazzo Berlaymont, quando un utente guarda o mette ripetutamente “mi piace” a contenuti sensibili come quelli relativi alla perdita di peso o all’immagine corporea, il sistema interpreta queste interazioni come segnali positivi di interesse e ne consiglia altri simili. Tuttavia, un’esposizione ripetuta a tali contenuti può avere gravi effetti negativi sul benessere degli utenti, tra cui un aumento dei sentimenti di tristezza o ansia, insoddisfazione per il proprio corpo, calo dell’autostima o aggravamento di disturbi alimentari e condizioni mentali preesistenti. Nel dettaglio, la sezione ‘Per Te’ di TikTok “mostra agli utenti un flusso continuo di video personalizzati, anche quando questi riguardano difficoltà legate alla salute mentale e all’immagine corporea“. Nell’app, più un utente interagisce con un determinato tipo di contenuto, più l’algoritmo della sezione consiglia contenuti simili. Si tratta di un sistema che si rivela pericoloso se vengono mostrati contenuti “relativi alla tristezza, all’isolamento o all’immagine dei corpi” in modo incessante e ripetuto. “I risultati preliminari odierni confermano, ancora una volta, che TikTok deve intensificare i propri sforzi per tutelare il benessere degli utenti, inclusi i minori”, ha sottolineato Virkkunen.

Le soluzioni di mitigazione

Fonti UE vicine al dossier hanno illustrato che la piattaforma cinese “ha adottato alcune strutture specifiche per affrontare il problema delle cosiddette ‘tane'”. In particolare, “l’azienda utilizza tecniche di ‘dispersione’ pensate per proporre contenuti diversificati, ma il nostro lavoro di analisi ha dimostrato chiaramente che tali misure non sono efficaci”, hanno aggiunto. Il colosso ha anche “introdotto una funzione di aggiornamento del feed, che tuttavia si è rivelata non permanente: dopo un breve lasso di tempo, il sistema torna a proporre i contenuti di prima, riportando l’utente all’interno del medesimo circuito”. Un funzionario europeo ha precisato che “anche l’opzione ‘non mi interessa’ dell’app risulta inefficace, poiché l’utente continua a ricevere contenuti dello stesso tipo”. Secondo le sue stime,” solo lo 0,2 per cento degli utenti di TikTok ne fa effettivamente uso”, quindi resta una “soluzione inadeguata”. 

Le conclusioni preliminari odierne indicano inoltre che TikTok non ha adottato “misure di mitigazione proporzionate, ragionevoli ed efficaci per affrontare tali rischi”. In una nota stampa, l’esecutivo comunitario ha ribadito il concetto: “Sebbene TikTok abbia già introdotto alcune misure per mitigare il rischio del cosiddetto ‘effetto tana del coniglio’, la Commissione ha rilevato, in via preliminare, che tali misure non sono efficaci”, in quanto “non riducono a sufficienza la frequenza con cui vengono suggeriti contenuti analoghi, inclusi quelli relativi a problemi di salute mentale e all’immagine corporea”.

Parlando di misure, un funzionario UE ha osservato che “le piattaforme – TikTok, per citarne una, ma non è l’unica – basano i propri sistemi di raccomandazione sulle attività di interazione implicita degli utenti”, cioè il modo in cui l’algoritmo della piattaforma osserva e registra per capire i gusti e l’interesse della persona. “Il nostro obiettivo è che TikTok abbandoni questo approccio, orientandosi invece verso le preferenze esplicite espresse dagli utenti”, ha riferito. Oltre a questa misura, l’esortazione è a migliorare la funzione ‘Non mi interessa’: quando “un utente indica di non essere interessato a un contenuto, tale scelta deve essere effettivamente rispettata, senza che venga aggirata dopo poco tempo“, ha affermato, chiarendo che “queste sono le tipologie di rimedi che stiamo delineando nelle nostre conclusioni preliminari”.

In questa fase dunque la Commissione ritiene che TikTok debba modificare la struttura del feed ‘Per Te’ e, oltre alle preferenze esplicite degli utenti TikTok, “disattivare il tempo di visualizzazione come indicatore per la raccomandazione dei contenuti, aumentare l’accessibilità e l’usabilità degli strumenti di controllo a disposizione degli utenti e testare regolarmente il proprio algoritmo”. Un funzionario UE ha messo in risalto che il contenuto di questa valutazione preliminare è quanto previsto dall’articolo 10 della proposta della Legge europea sui bambini. “Vogliamo che tali misure vengano adottate in futuro da tutte le piattaforme. In un certo senso, quindi, questo lavoro funge da premessa”, ha sottolineato

TikTok ha ora la possibilità di esercitare il proprio diritto di difesa. Potrà esaminare i documenti contenuti nei fascicoli di indagine della Commissione e rispondere per iscritto alle conclusioni preliminari della Commissione. Parallelmente, sarà consultato il Comitato europeo per i servizi digitali. Se le conclusioni della Commissione dovessero essere confermate, quest’ultima potrà emanare una decisione di non conformità al DSA , che potrà comportare l’irrogazione di un’ammenda proporzionata “alla natura, alla gravità, alla ricorrenza e alla durata della violazione” e che potrà arrivare fino a un massimo del 6 per cento del fatturato annuo mondiale complessivo del fornitore.