Ue lancia nuova indagine su X per i deepfake sessuali generati da Grok

Commissione UE ha avviato una nuova indagine formale contro X ai sensi delle norme sui servizi digitali, ampliando il procedimento avviato nel 2023. L’obiettivo è verificare se X abbia valutato e mitigato in modo adeguato i rischi connessi all’integrazione di Grok, in particolare la possibile diffusione di contenuti illegali, tra cui immagini sessualmente esplicite manipolate tramite intelligenza artificiale (deepfake), compresi materiali che potrebbero configurare abuso sessuale su minori.

Henna Virkkunen ha dichiarato:

“I deepfake sessuali non consensuali che riguardano donne e bambini rappresentano una forma di violenza degradante e inaccettabile. Con questa indagine intendiamo accertare se X abbia rispettato gli obblighi previsti dal Digital Services Act o se abbia considerato i diritti dei cittadini europei come danni collaterali del proprio servizio.”

Contesto e obiettivi dell’indagine

L’indagine si concentra sulla conformità alle disposizioni del Digital Services Act (DSA), che impone alle piattaforme digitali obblighi di valutazione e mitigazione dei rischi sistemici prima del lancio di funzionalità che possano alterare il profilo di rischio del servizio. In questo caso, la Commissione esaminerà se X abbia effettuato una valutazione dei rischi specifica in vista del dispiegamento di Grok e se abbia trasmesso tale valutazione alle autorità competenti come richiesto dalla normativa.

Rischi specifici oggetto di verifica

L’istruttoria analizzerà in dettaglio diverse tipologie di rischio: la diffusione di contenuti illegali, l’impatto negativo sulla violenza di genere, e le conseguenze gravi per il benessere fisico e mentale degli utenti, con particolare attenzione alla protezione dei minori. Sarà verificato se le funzionalità di Grok possano facilitare la creazione, la circolazione o la normalizzazione di deepfake sessuali non consensuali e se siano state predisposte efficaci misure di prevenzione e intervento.

Collegamento con il procedimento del 2023 e i sistemi di raccomandazione

Parallelamente all’estensione dell’indagine, la Commissione ha ampliato il procedimento aperto nel dicembre 2023 volto a valutare se X abbia correttamente identificato e mitigato i rischi connessi ai propri sistemi di raccomandazione. In particolare, sarà esaminato l’impatto del recente annuncio di passare a un algoritmo di raccomandazione basato su Grok e se tale transizione sia stata oggetto di una adeguata valutazione di impatto sui rischi sistemici.

Procedura di istruttoria e poteri della Commissione

Nel corso dell’istruttoria la Commissione potrà raccogliere prove, richiedere informazioni formali, svolgere interviste e, se necessario, effettuare ispezioni presso i locali aziendali. In assenza di adeguati adeguamenti del servizio, Bruxelles si riserva la possibilità di imporre misure provvisorie volte a ridurre i rischi immediati per gli utenti.

Al termine dell’istruttoria la Commissione potrà adottare una decisione di non conformità oppure accettare impegni correttivi proposti da X. L’apertura di questo procedimento trasferisce temporaneamente la competenza di vigilanza dalle autorità nazionali alla Commissione, che assume il ruolo principale nell’accertamento delle presunte violazioni.

Sanzioni precedenti e possibili conseguenze

La nuova indagine si inserisce in un quadro di controlli già attivi su X. In una decisione adottata il 5 dicembre 2025 la Commissione aveva già dichiarato la non conformità della piattaforma per altre violazioni, tra cui l’uso di pratiche di design ingannevole, la scarsa trasparenza in ambito pubblicitario e l’insufficiente accesso ai dati per la ricerca, sanzionando l’azienda con una multa di 120 milioni di euro.

Se l’attuale indagine dovesse accertare ulteriori carenze, le violazioni del DSA potrebbero comportare nuove sanzioni, l’imposizione di obblighi correttivi vincolanti o altre misure amministrative volte a garantire la tutela dei diritti fondamentali e la sicurezza degli utenti.

Implicazioni per gli utenti e per la tutela dei minori

L’esito dell’indagine avrà riflessi diretti sulla protezione degli utenti europei, con particolare rilievo per le vittime di contenuti non consensuali e per i minori esposti a rischi online. Le norme del DSA mirano a rafforzare la responsabilità delle piattaforme digitali, imponendo misure preventive e di contrasto per limitare la circolazione di materiale illecito e per migliorare la trasparenza delle decisioni algoritmiche.

Bruxelles non ha indicato un calendario preciso per la conclusione dell’istruttoria; tuttavia, le attività di raccolta prove e le eventuali misure provvisorie potranno essere avviate nel breve termine qualora emergano rischi immediati per gli utenti.