News

Video razzisti generati con l’AI fanno milioni di visualizzazioni su TikTok

4 Luglio 2025

Una recente inchiesta del watchdog Media Matters ha acceso i riflettori su una serie di video razzisti generati con l’AI che hanno ottenuto milioni di visualizzazioni su TikTok.

Secondo il report, i contenuti mostrano stereotipi razziali diretti principalmente contro le persone nere, ma anche contro immigrati e asiatici.

Google Veo 3 sotto accusa per contenuti discriminatori

Molti dei video individuati presentano un watermark “Veo”, associato a Google Veo 3, il tool di generazione video lanciato da Google a maggio 2025.

Ogni clip ha una durata di otto secondi, in linea con le limitazioni attuali di Veo 3. Gli autori usano hashtag e descrizioni che indicano chiaramente l’uso dell’AI.

LEGGI ANCHE: Il fact checking su X lo farà l’AI

Intelligenza artificiale e razzismo: un problema crescente

Il caso evidenzia come l’intelligenza artificiale e la diffusione di stereotipi razziali sui social rappresentino un rischio crescente.

Nonostante le promesse di Google di “bloccare richieste e risultati dannosi”, i fatti dimostrano che i contenuti offensivi generati dall’IA possono comunque sfuggire ai filtri.

TikTok rimuove gli account con video razzisti generati da AI

Un portavoce di TikTok, Ariane de Selliers, ha dichiarato a The Verge che la piattaforma ha rimosso gli account segnalati, molti dei quali erano già stati bannati prima della pubblicazione del report.

TikTok ribadisce che l’hate speech non ha posto sulla piattaforma, ma l’algoritmo continua a favorire contenuti virali offensivi creati da intelligenza artificiale.

Video razzisti su TikTok e su altre piattaforme

Non solo TikTok. Alcuni dei video identificati sono apparsi anche su YouTube (con minor diffusione) e su Instagram, dove il magazine Wired ha trovato contenuti simili.

La presenza su più piattaforme mostra che il fenomeno dei video deepfake razzisti generati da AI è trasversale e difficile da contenere.

Come l’intelligenza artificiale sta generando video razzisti su TikTok

L’uso di prompt testuali per generare video attraverso modelli come Google Veo 3 sta sfuggendo di mano.

I video generati da AI riescono a eludere i sistemi di moderazione automatica grazie alla loro brevità (otto secondi) e all’ambiguità del contenuto.

Ma le implicazioni etiche e sociali sono profonde.

I rischi dell’intelligenza artificiale nei contenuti virali

Il caso solleva una domanda cruciale: come vengono moderati i video generati con AI su TikTok e sulle altre piattaforme?

Finché gli strumenti di generazione automatica continueranno a produrre video razzisti, sarà difficile limitare i rischi dell’intelligenza artificiale nei contenuti virali.

AI generativa e discriminazione: una questione di responsabilità

Il fenomeno mette in discussione la responsabilità delle aziende tecnologiche nello sviluppo e nella distribuzione di strumenti basati su AI.

Serve un dibattito pubblico urgente su come gestire i contenuti d’odio su TikTok e sugli altri social, evitando che l’AI generativa diventi un moltiplicatore di discriminazione e odio.