La Comissió Europea amenaça de multar TikTok per l’ús de contingut nociu per a la salut mental

La Comissió Europea ha advertit avui que pot imposar una multa a TikTok per enganxar els usuaris, especialment els joves, mitjançant la personalització de l’algorisme i la promoció sistemàtica de continguts nocius. Segons l’executiu europeu, aquesta pràctica, coneguda com a “efecte del forat de conill”, vulnera presumptament la Llei Europea de Serveis Digitals (DSA). Les autoritats comunitàries s’han centrat en els continguts que inciten a l’autolesió, la tristesa i la preocupació per la imatge corporal.

La Comissió diu que l’ús d’aquest sistema de recomanacions pot tenir conseqüències negatives en la salut mental. Tal com ha explicat un alt funcionari comunitari, “individualment no seria un problema, però col·lectivament pot tenir impactes negatius en la salut mental”. TikTok encara pot presentar al·legacions.

La vicepresidenta executiva de la Comissió encarregada de Sobirania Tecnològica, Seguretat i Democràcia, Henna Virkkunen, ha remarcat que cada vegada que un usuari visualitza o marca amb “m’agrada” un contingut, l’algorisme ofereix més vídeos de la mateixa temàtica, fet que atrapa els usuaris en un efecte de forat de conill del qual és difícil escapar-se’n.

Virkkunen també ha assenyalat que la investigació ha demostrat que TikTok “ha de millorar els seus esforços per protegir l’estat del benestar dels seus usuaris, també dels menors”.

Si la Comissió confirma les primeres valoracions, podrà adoptar una decisió d’incompliment que comporti una multa proporcional a “la naturalesa, la gravetat, la reiteració i la durada de la infracció”. Aquestes sancions poden arribar fins al 6% del volum de negoci anual mundial del proveïdor del servei.

Pestanya “Per a tu” i l’algorisme personalitzat

L’executiu europeu s’ha centrat en la pestanya “Per a tu”, la primera pantalla que apareix quan s’obre l’aplicació. Després de dos anys d’investigació, que ha inclòs experiments i entrevistes, s’ha conclòs que si un usuari visualitza o marca repetidament continguts sobre la pèrdua de pes o la imatge corporal, el sistema interpreta aquestes accions com a mostra d’interès i recomana més continguts similars.

Segons el comunicat de la Comissió: “L’exposició repetida a aquests continguts pot tenir efectes molt negatius en el benestar dels usuaris, com ara un augment dels sentiments de tristesa o ansietat, insatisfacció amb el propi cos, una disminució de l’autoestima o un empitjorament dels trastorns alimentaris i dels problemes de salut mental preexistents”.

Tot i que l’empresa introdueix continguts alternatius per reduir la repetició, Brussel·les considera que “clarament no és suficient”. Segons les mateixes fonts, només el 0,2% dels usuaris fa servir l’opció d’evitar contingut personalitzat, com marca la DSA.

La Comissió considera que TikTok ha de “canviar el disseny de la pestanya “Per a tu””, basant-se en les preferències explícites dels usuaris, i hauria de deixar d’utilitzar el temps de visualització com a indicador per recomanar continguts. També recomana augmentar l’accessibilitat i millorar els controls per a l’usuari, i fer proves regulars de l’algorisme.

Finalment, Brussel·les recorda que TikTok té dret a defensar-se i accedir a tota la informació de la investigació i presentar les seves al·legacions. També subratlla que TikTok no és l’única plataforma que utilitza recomanacions basades en les interaccions dels usuaris.