Tag: deepfake

  • AI Act, rinvio degli obblighi e divieto di generare nudi con l’IA

    AI Act, rinvio degli obblighi e divieto di generare nudi con l’IA

    Parlamento UE e Consiglio raggiungono l’intesa sull’AI Omnibus, il pacchetto di semplificazione dell’AI Act proposto dalla Commissione UE. Rinviati gli obblighi normativi e si introduce nell’articolo 5 dell’AI Act il divieto di utilizzare app di IA che generano immagini di nudo.

    Parlamento UE e Consiglio raggiungono l’intesa sull’AI Omnibus, il pacchetto di semplificazione dell’AI Act proposto dalla Commissione a novembre 2025. Entra nell’articolo 5 del regolamento un nuovo divieto esplicito: stop alle applicazioni di intelligenza artificiale che generano immagini intime non consensuali. Gli obblighi per i sistemi ad alto rischio slittano al 2 dicembre 2027 e al 2 agosto 2028.

    L’accordo politico raggiunto oggi tra Parlamento europeo e Consiglio sull’AI Omnibus rinvia gli obblighi sui sistemi ad alto rischio dell’AI Act al 2 dicembre 2027 e al 2 agosto 2028.

    È un compromesso che cambia il volto dell’AI Act, perché non si tratta solo di un rinvio tecnico. Si tratta di una operazione politica più ampia, che alleggerisce un pezzo del regolamento e ne irrigidisce un altro. Ma vediamo insieme di cosa si sta parlando.

    Il divieto di generare nudi con la IA entra nell’articolo 5 dell’AI Act

    La parte più importante di questo accordo è l’iscrizione, nell’articolo 5 dell’AI Act, di un nuovo divieto esplicito. Sono vietati i sistemi di intelligenza artificiale che alterano, manipolano o generano artificialmente immagini, video o audio realistici per rappresentare attività sessualmente esplicite o le parti intime di una persona identificabile, senza il suo consenso. Il divieto si estende anche alla generazione di materiale pedopornografico tramite intelligenza artificiale.

    L’articolo 5 dell’AI Act è la lista delle pratiche vietate, le più gravi, quelle sanzionate con le multe più alte previste dal regolamento. È lo stesso articolo che vieta il social scoring, le tecniche di manipolazione subliminale, lo sfruttamento delle vulnerabilità delle persone.

    L’inserimento dei deepfake intimi non consensuali in questa categoria riconosce a livello UE la natura di violazione dei diritti fondamentali di queste tecnologie.

    La spinta politica è arrivata dal Parlamento, in particolare dal gruppo Renew e dai correlatori Arba Kokalari del PPE e Michael McNamara di Renew. La proposta originaria della Commissione non prevedeva questo divieto.

    È stato il Parlamento a chiederlo e a ottenerlo, raccogliendo una pressione sociale concreta. Le cronache europee degli ultimi mesi raccontano un’emergenza diventata insostenibile: adolescenti vittime di deepfake intimi creati dai compagni di scuola, donne colpite da campagne di immagini sessualizzate generate artificialmente, materiale pedopornografico sintetico in circolazione sulle piattaforme.

    Le aziende avranno tempo fino al 2 dicembre 2026 per adeguarsi. La deroga prevista riguarda i provider e gli utilizzatori che avranno implementato misure di sicurezza efficaci per impedire la generazione di questo tipo di contenuti.

    È una clausola che lascia margine ai grandi modelli generativi che già investono in salvaguardie, ma che alza l’asticella per gli sviluppatori delle di app per generare immagini di nudo più diffuse, quelle che fino a oggi hanno operato in un vuoto regolatorio.

    AI Act, rinvio degli obblighi e divieto di generare nudi con l'IA
    AI Act, rinvio degli obblighi e divieto di generare nudi con l’IA

    AI Act e il rinvio degli obblighi sull’alto rischio

    L’altra parte sostanziale dell’accordo riguarda i tempi di applicazione delle regole sui sistemi ad alto rischio.

    Il Parlamento e il Consiglio hanno fissato due nuove date. I sistemi dell’Allegato III, quelli che operano in ambiti come biometria, infrastrutture critiche, istruzione, lavoro, servizi essenziali, forze dell’ordine, giustizia e gestione delle frontiere, dovranno conformarsi entro il 2 dicembre 2027.

    I sistemi dell’Allegato I, vale a dire quelli incorporati in prodotti già regolati da legislazione settoriale come dispositivi medici, macchinari industriali, giocattoli e automobili connesse, avranno tempo fino al 2 agosto 2028.

    In buona sostanza, il rinvio risponde a una necessità tecnica concreta. Gli standard tecnici armonizzati di CEN e CENELEC, gli enti europei che traducono i regolamenti UE in requisiti operativi, sono ancora in lavorazione. Le autorità nazionali stanno completando la designazione degli enti notificati. Le linee guida della Commissione richiedono ancora rifiniture.

    Applicare un regolamento complesso come l’AI Act senza questi strumenti pronti avrebbe significato un’attuazione incerta e diseguale tra Stati membri. Il rinvio dà al sistema europeo il tempo di costruire un’applicazione solida e uniforme.

    Watermark e AI literacy che resta obbligatoria

    Sulla trasparenza dei contenuti generati da IA, il Parlamento ha ottenuto una vittoria importante. La Commissione, nella proposta di novembre 2025, aveva chiesto sei mesi di periodo di grazia per gli obblighi di watermark, vale a dire l’obbligo per i provider di IA generativa di rendere riconoscibili come artificiali le immagini, i video, gli audio e i testi prodotti dai loro sistemi.

    Il Parlamento ha proposto e ottenuto la riduzione a tre mesi, con scadenza fissata al 2 dicembre 2026.

    È una scelta che rafforza la tutela dei cittadini contro la disinformazione e i contenuti sintetici non dichiarati. L’industria dell’IA generativa avrà appena quattro mesi dopo l’entrata in vigore generale per adeguare i propri sistemi. La trasparenza dei contenuti generati artificialmente è una priorità non negoziabile.

    Sull’AI literacy, l’obbligo per provider e utilizzatori di garantire una alfabetizzazione minima del personale resta in piedi. La Commissione voleva trasformarlo in raccomandazione, il Parlamento ha tenuto duro. Il pilastro educativo del regolamento è confermato, perché senza competenza diffusa nelle aziende non c’è applicazione possibile delle regole sull’IA.

    AI Act e il compromesso sul regolamento macchine

    Sul rapporto tra AI Act e legislazioni settoriali, il negoziato a tre tra Commissione, Parlamento e Consiglio UE ha trovato una soluzione equilibrata. Il regolamento sui macchinari è stato esentato dall’applicabilità diretta dell’AI Act, evitando le sovrapposizioni regolatorie che da mesi le associazioni industriali europee, Confindustria inclusa, segnalavano come problema concreto per la competitività delle imprese.

    Allo stesso tempo, la Commissione mantiene la possibilità di adottare atti delegati per aggiungere requisiti di salute e sicurezza ai sistemi di IA classificati come ad alto rischio. È una formula che protegge sia la coerenza del quadro regolatorio europeo sia la chiarezza operativa per chi quel quadro deve applicarlo.

    L’accordo introduce inoltre un nuovo obbligo per la Commissione: fornire orientamenti operativi per assistere gli operatori economici dei sistemi di IA ad alto rischio soggetti alla legislazione di armonizzazione settoriale. È una risposta diretta alla richiesta di chiarezza interpretativa che le imprese europee chiedono da tempo.

    I commenti da Bruxelles

    La macchina comunicativa europea si è messa in moto poche ore dopo l’intesa. La presidente del Parlamento europeo, Roberta Metsola, ha affidato a un post su X la prima dichiarazione ufficiale, ringraziando le presidenti delle commissioni IMCO e LIBE, Anna Cavazzini e Javier Zarzalejos, e i correlatori Kokalari e McNamara. Il messaggio di Metsola è chiaro: «Semplificare e razionalizzare le leggi digitali facilita l’innovazione per le imprese riducendo la burocrazia superflua. È esattamente ciò che il pacchetto di semplificazione per l’Intelligenza Artificiale concordato nelle prime ore di questa mattina offre. Si tratta di un altro importante passo per rafforzare la competitività europea».

    La commissaria europea per la sovranità tecnologica, sicurezza e democrazia, Henna Virkkunen, ha rilanciato la stessa narrativa con un’angolazione diversa. Su X ha scritto: «Le nostre imprese e i nostri cittadini vogliono due cose dalle regole sull’IA. Vogliono essere in grado di innovare e sentirsi al sicuro. L’accordo di oggi sull’omnibus sull’IA fa entrambe le cose». La formula delle «due cose» racconta esattamente la natura dell’intesa: protezione dei cittadini, in particolare delle vittime dei deepfake, e tempo adeguato alle imprese per costruire una compliance solida.

    Come si è arrivati qui: la lunga marcia dell’AI Omnibus

    Il punto di partenza è il 19 novembre 2025, quando la Commissione presenta il Digital Omnibus, il pacchetto di semplificazione dei regolamenti digitali. La parte sull’AI viene scorporata e accelerata, perché incombe la scadenza del 2 agosto 2026, data in cui sarebbero entrati in vigore gli obblighi più pesanti dell’AI Act. La logica della Commissione è quella di adeguare le regole prima che diventino applicabili, per garantire un’applicazione efficace e ordinata.

    Il Consiglio adotta la sua posizione il 13 marzo 2026, allineandosi sostanzialmente alla Commissione. Il Parlamento arriva una settimana dopo, con un voto in commissione il 18 marzo e l’adozione in plenaria il 26 marzo. È in questa fase che il Parlamento aggiunge il divieto di usare la IA per generare nudi, raccogliendo la pressione sociale e politica sul tema dei deepfake non consensuali. L’aula approva la posizione con 569 voti favorevoli, 45 contrari e 23 astensioni, una maggioranza ampia che attraversa gli schieramenti.

    Il 28 aprile si arriva al primo confronto decisivo tra Commissione, Parlamento e Consiglio UE. Il negoziato si chiude senza accordo dopo dodici ore.

    Il punto critico era il perimetro dell’Allegato I e il rapporto con le legislazioni settoriali. Bruxelles convoca un altro negoziato a tre il 13 maggio, e in quella sede ricuce il compromesso con la formula degli atti delegati sul regolamento macchine.

    In questa occasione, il Parlamento ottiene il divieto sulle nudification app, le date fisse di applicazione e l’esenzione del regolamento macchine. La Commissione e il Consiglio preservano l’architettura orizzontale del regolamento e la possibilità di intervenire con atti delegati.

    AI Act e cosa cambia per aziende e i cittadini

    Per le aziende europee, questo accordo significa avere il tempo per prepararsi alla compliance, in particolare per chi opera con sistemi ad alto rischio in settori già regolati. Le scadenze del 2 dicembre 2027 e del 2 agosto 2028 sono date fisse, prevedibili, su cui pianificare investimenti e adeguamenti.

    Per i cittadini, e in particolare per le vittime dei deepfake non consensuali, questo è un passaggio importante.

    Il divieto di usare la IA per generare immagini di nudo entra nell’articolo 5 dell’AI Act ed è applicabile dal 2 dicembre 2026. È un riconoscimento europeo che la generazione non consensuale di immagini intime è una violazione dei diritti fondamentali, e che lo Stato e l’Unione hanno il dovere di intervenire.

    L’accordo politico ora deve diventare legge.

    A questo punto sono necessari il voto formale del Parlamento e l’adozione formale del Consiglio, che dovrebbero arrivare prima del 2 agosto 2026. Dal 30 giugno la presidenza del Consiglio passerà dall’attuale presidenza cipriota a quella irlandese.

    La partita europea sull’IA continua.

    Il Digital Networks Act è in arrivo, le revisioni del Data Act sono in corso, il dibattito sull’AI Office come supervisore unico per i grandi modelli generativi sta entrando nel vivo. Bruxelles sta costruendo un’architettura digitale che tiene insieme regole, mercato e diritti.

    In questo contesto, l’AI Omnibus è un pezzo importante di quella architettura.

  • Apple e la minaccia di rimuovere l’app Grok di xAI

    Apple e la minaccia di rimuovere l’app Grok di xAI

    Una lettera di Apple, inviata a tre senatori Usa, ha rivelato che più volte gli aggiornamenti dell’app Grok di xAI furono respinti, arrivando a minacciare la rimozione dall’App Store.

    Certamente ricorderete quando tra la fine di dicembre 2025 e gennaio di quest’anno esplose lo scandalo Grok, l’app di xAI. Parliamo sempre del raggio di azione di Elon Musk. Ricorderete che quell’app permetteva a tutti, attraverso un testo condiviso su X, quindi in pubblico, di modificare immagini. Una funzionalità che ha finito per generare un fenomeno di deepfake a sfondo sessuale a livello globale.

    Ebbene, a distanza di tre mesi se ne torna a parlare perché NBC, in via esclusiva, in relazione alla lettera che tre senatori Usa avevano indirizzato a Apple e Google, chiedendo di rimuovere Grok dai rispettivi app market, ha avuto modo di visualizzare cosa Apple aveva risposto ai senatori.

    In pratica, il 9 gennaio 2026, i senatori Ron Wyden, Ben Ray Luján ed Edward Markey avevano scritto a Tim Cook e Sundar Pichai chiedendo la rimozione immediata delle app X e Grok dagli store.

    I senatori accusavano Grok di generare immagini sessuali non consensuali di donne e bambini, e Musk di aver incoraggiato il fenomeno reagendo con emoji di risate. La scadenza era fissata al 23 gennaio per una risposta scritta.

    E in effetti, senza che nessuno ne sapesse nulla, e si è scoperto grazie alla NBC, Cupertino aveva risposto.

    Il passaggio chiave della lettera recita: «Apple ha esaminato le successive modifiche degli sviluppatori e ha determinato che X aveva sostanzialmente risolto le proprie violazioni, ma l’app Grok rimaneva non conforme. Di conseguenza, abbiamo respinto la modifiche di Grok e notificato allo sviluppatore che sarebbero state necessarie ulteriori modifiche per rimediare alla violazione, oppure l’app avrebbe potuto essere rimossa dall’App Store.».

    In buona sostanza, Apple aveva bocciato i primi tentativi di xAI di sistemare il problema, giudicandoli però insufficienti. Solo dopo ulteriori modifiche ha approvato la versione aggiornata, definendola «sostanzialmente migliorata». Ma la minaccia di rimozione era stata formalizzata.

    Apple e la minaccia di rimuovere l'app Grok di xAI
    Apple e la minaccia di rimuovere l’app Grok di xAI

    Come si arrivò a quel punto

    Per chi ha seguito questa vicenda su InTime Blog, il contesto è abbastanza chiaro.

    Come ricordato in apertura, tra il 25 dicembre 2025 e l’8 gennaio 2026, Grok ha generato circa 4,6 milioni di immagini, di cui circa 3 milioni sessualizzate e circa 23.000 raffiguranti minori.

    Come avevo analizzato nell’articolo sulle migliaia di immagini di nudo generate da Grok, un’inchiesta di Bloomberg aveva quantificato il fenomeno: 6.700 immagini sessualizzate all’ora, 84 volte più dei principali siti di deepfake messi insieme.

    Ricorderete il post di Musk del 31 dicembre 2025, un’immagine di sé stesso in bikini generata da Grok, che aveva causato un’impennata del 1.400% nella generazione di contenuti simili.

    Come sottolineato più volte, in questa vicenda scatenata dalla funzionalità libera permettendo a chiunque di modificare immagini, le vittime non avevano strumenti per difendersi: donne che segnalavano immagini sessualizzate delle proprie foto a X non ricevevano risposta, o ricevevano notifiche che «non vi erano violazioni delle regole».

    X ha poi limitato la generazione di immagini agli abbonati paganti. Ma come avevo scritto nell’analisi sulla spunta blu che non rende sicura la generazione di immagini, spostare la funzionalità dietro un paywall non è una misura di sicurezza.

    Lo dimostrava il fatto che l’utente che aveva chiesto a Grok di manipolare l’immagine della donna uccisa a Minneapolis era un abbonato verificato. E come avevo ricordato nell’articolo sui numeri degli abbonamenti di X, la limitazione agli abbonati ha finito per monetizzare lo scandalo stesso.

    Lo scandalo Grok si è esteso ovunque

    Il 26 gennaio l’Unione Europea aveva aperto un’indagine formale DSA contro X per le immagini generate da Grok, con sanzioni potenziali fino al 6% del fatturato globale.

    Il DPC irlandese ha avviato un’indagine GDPR, con potenziali sanzioni fino al 4% del fatturato. Il Regno Unito ha varato una nuova legge con pene detentive fino a due anni per chi genera deepfake intimi non consensuali.

    E poi c’è la Francia. Il 3 febbraio la procura di Parigi, insieme a Europol, ha perquisito gli uffici parigini di X. Musk e l’ex CEO Linda Yaccarino sono stati convocati per un’audizione fissata per il 20 aprile, vale a dire tra pochi giorni.

    Negli Stati Uniti, il TAKE IT DOWN Act, firmato nel maggio 2025, entrerà in vigore a maggio 2026 rendendo reato federale la pubblicazione di immagini intime non consensuali generate da IA.

    Il DEFIANCE Act, approvato dal Senato il 13 gennaio citando esplicitamente lo scandalo Grok, consente alle vittime di citare in giudizio i creatori per danni fino a 150.000 dollari. E sono già in corso almeno tre cause legali contro xAI.


    Cosa dicono il TAKE IT DOWN Act e il DEFIANCE Act

    Il TAKE IT DOWN Act, firmato il 19 maggio 2025, è la prima legge federale Usa a criminalizzare la diffusione di immagini intime non consensuali, siano esse reali o generate dall’IA. La norma impone alle piattaforme l’obbligo di rimuovere tali contenuti entro 48 ore dalla segnalazione, prevedendo sanzioni penali e multe per chi pubblica o minaccia di diffondere tali immagini.

    Complementare a questo è il DEFIANCE Act, approvato dal Senato nel gennaio 2026, che colma un vuoto fondamentale: permette alle vittime di citare in giudizio civile i creatori di deepfake sessualizzati, richiedendo danni economici significativi.

    Per quanto riguarda l’operatività:

    • Il TAKE IT DOWN Act è tecnicamente in vigore dal giorno della firma, ma le piattaforme hanno tempo fino al 19 maggio 2026 per implementare procedure di segnalazione chiare e visibili.
    • Il DEFIANCE Act, dopo il via libera del Senato di metà gennaio 2026, deve ora completare l’iter alla Camera per diventare pienamente esecutivo.

    Due norme Usa che permetteranno di passare da una fase di “far west” digitale a una in cui la responsabilità civile e penale inizia a pesare anche nel mondo dei falsi artificiali.


    La generazione di immagini con sessualizzare con Grok continua

    Un secondo report di NBC documenta che Grok continua a generare immagini sessualizzate non consensuali, seppur in volumi ridotti.

    Gli utenti hanno sviluppato tecniche di aggiramento: chiedono a Grok di «abbinare la posa» di una foto di celebrità a una figura stilizzata in posizione suggestiva, o di «scambiare gli abiti» tra due foto. I video animati rappresentano una nuova frontiera di abuso.

    La risposta di Musk è stata la solita, ossia quella di provare a minimizzare e ad attaccare. In risposta ai provvedimenti del governo Uk, ha definito il governo di Starmer «fascista», ha sfidato pubblicamente gli utenti a «provare a violare la moderazione di Grok» ricevendo immediatamente risposte con contenuti nudi, e la risposta ufficiale di xAI ai giornalisti è stata «Legacy Media Lies».

    Il paradosso di questa vicenda è che la stessa reazione di Musk ha finito per amplificare la crisi, invece di placarla.

    Cosa potrebbe succedere adesso

    La rivelazione della lettera di Apple dimostra che i gatekeeper degli store hanno utilizzato la leva della rimozione come strumento di pressione, anche se non l’hanno esercitata fino in fondo.

    Apple ha anche rimosso 28 app «nudify» dal proprio store dopo che il Tech Transparency Project ne aveva identificate 47 disponibili su iOS, complessivamente scaricate 705 milioni di volte.

    Ma il vero banco, dicevamo, di prova sarà nelle prossime settimane.

    La scelta di Musk di posizionare Grok come un’intelligenza artificiale «spicy», con meno restrizioni, si scontra ora con un ecosistema normativo globale che non concede più sconti.

    L’integrazione di un generatore di immagini IA con misure di controllo minime all’interno di una piattaforma social da centinaia di milioni di utenti ha creato un rischio enorme. Conosciuto del resto.

    Un rischio tale per cui nessun intervento tardivo di moderazione può pienamente correggere.

    Ed è questo il punto in cui ci troviamo oggi. La lettera di risposta di Apple ci dice che il rischio c’è ed è conosciuto anche ai grandi gatekeeper. E le possibilità che la prossima volta si possa scrivere un esito diverso non è del tutto remota.

    Intanto, staremo a vedere cosa emergerà dall’audizione di Musk e della Yaccarino a Parigi.

  • Il DPC irlandese indaga sulle immagini di deepfake pubblicate su X

    Il DPC irlandese indaga sulle immagini di deepfake pubblicate su X

    Il DPC irlandese avvia un’indagine su Grok per immagini sessualizzate non consensuali, ai sensi del GDPR. È il terzo fronte regolatorio UE contro X, che rischia sanzioni fino al 4% del fatturato globale.

    Il Data Protection Commission (DPC) irlandese ha notificato a X l’avvio di un’indagine formale su Grok, la IA integrata sulla piattaforma. L’oggetto dell’inchiesta è verificare se il trattamento dei dati personali da parte del chatbot di xAI viola il GDPR, il regolamento europeo sulla protezione dei dati.

    Ma il contesto è più ampio e riguarda ik problema che ho raccontato anche qui nelle scorse settimane. E riguarda la capacità di Grok di generare immagini sessualizzate di persone reali, soprattutto donne e minori.

    Graham Doyle, vice commissario del DPC, ha spiegato che l’autorità sta interagendo con X Internet Unlimited Company (XIUC), la società irlandese che gestisce le operazioni europee della piattaforma di Elon Musk, da quando sono emersi i primi report sulla possibilità di usare l’account @Grok su X per generare questo tipo di contenuti. E ora si passa dalle interlocuzioni informali a un’indagine strutturata.

    Perché l’Irlanda è al centro di tutto

    Il DPC irlandese è il regolatore principale per X in tutta l’Unione Europea, perché le operazioni europee dell’azienda hanno sede a Dublino. Questo significa che l’indagine irlandese ha valore per tutti i 27 stati membri dell’UE e per lo Spazio Economico Europeo.

    Le sanzioni potenziali posso arrivare fino al 4% del fatturato globale dell’azienda. Per un’azienda delle dimensioni di X, parliamo di cifre nell’ordine di centinaia di milioni di euro.

    Ma c’è un aspetto che rende questa indagine particolarmente rilevante. Il DPC ha avviato quella che definisce una “large-scale inquiry”, un’indagine su larga scala che esaminerà la conformità di X agli obblighi fondamentali del GDPR: i principi del trattamento dati; la liceità del trattamento; la protezione dei dati fin dalla progettazione e per impostazione predefinita; e l’obbligo di condurre una valutazione d’impatto sulla protezione dei dati.

    Il DPC irlandese indaga sulle immagini di nudo pubblicate su X
    Il DPC irlandese indaga sulle immagini di nudo pubblicate su X

    Grok e il terzo fronte europeo

    L’indagine del DPC si aggiunge a due procedimenti già aperti. Il 26 gennaio la Commissione Europea ha avviato un’indagine per verificare se Grok diffonde contenuti illegali ai sensi del Digital Services Act.

    E il 3 febbraio l’autorità britannica per la privacy, l’ICO, ha aperto un’indagine analoga a quella irlandese, sempre focalizzata sul GDPR e sulla generazione di immagini sessualizzate.

    Tre indagini diverse, tre autorità diverse, ma tutte puntate sullo stesso problema: un chatbot che genera immagini di nudo non consensuali senza filtri efficaci.

    Grok e cosa è successo a gennaio

    Per capire il contesto di questa indagine bisogna tornare a quanto accaduto nelle prime settimane del 2026.

    Come già ricordato, a fine 2025 X ha rilasciato la possibilità delle modifiche delle immagini direttamente nei post pubblici, quindi visibili a tutti.

    A distanza di pochi giorni, a gennaio, Grok ha iniziato a generare immagini sessualizzate su richiesta degli utenti in modo massiccio. Un’inchiesta riportata anche da Bloomberg ha quantificato il fenomeno: circa 6.700 immagini sessualizzate all’ora, 84 volte più dei principali siti dedicati ai deepfake. L’85% delle immagini prodotte da Grok era classificabile come contenuto sessualizzato.

    Le storie delle vittime hanno fatto il giro dei media internazionali.

    Donne che si ritrovavano versioni nude delle proprie foto pubblicate su X, senza aver dato alcun consenso e senza strumenti efficaci per rimuoverle. Una di loro aveva pubblicato una foto con il fidanzato in un bar: due sconosciuti l’hanno modificata usando Grok, prima mettendola in bikini, poi sostituendo il bikini con un filo interdentale. Ha segnalato le immagini a X. Non ha mai ricevuto risposta.

    X, in risposta al fenomeno dilagante, ha poi annunciato alcune restrizioni, limitando la generazione di immagini agli abbonati paganti. Ma le verifiche condotte da Reuters all’inizio di questo mese hanno dimostrato che Grok continuava a produrre immagini sessualizzate quando sollecitato.

    La differenza tra DSA e GDPR

    L’indagine della Commissione Europea si muove sul binario del Digital Services Act, il regolamento che disciplina i contenuti online e la moderazione delle piattaforme. È lo stesso regolamento che a dicembre 2025 ha portato a una multa di 120 milioni di euro contro X per la questione delle spunte blu ingannevoli.

    L’indagine del DPC irlandese si muove invece sul binario del GDPR, che riguarda specificamente la protezione dei dati personali. Sono due strumenti diversi, con logiche diverse e sanzioni diverse. E X rischia, appunto, su entrambi i fronti.

    Il GDPR richiede che il trattamento dei dati personali sia lecito, corretto e trasparente. Richiede che i dati siano raccolti per finalità determinate e trattati in modo compatibile con quelle finalità.

    Richiede una valutazione d’impatto quando il trattamento può comportare rischi elevati per i diritti delle persone. Generare immagini sessualizzate di persone reali senza il loro consenso, infatti, solleva questioni su tutti questi punti.

    La risposta di Musk e le tensioni con l’UE

    La posizione di Elon Musk e della sua amministrazione sulle regolamentazioni UE è nota. Musk ha espresso più volte le sue obiezioni alle norme UE sui contenuti online. L’amministrazione Trump ha descritto le multe imposte alle aziende tecnologiche americane come una forma di tassazione.

    Ma le autorità UE non sembrano intenzionate a fare passi indietro. La Commissione ha già ordinato a X di conservare tutti i documenti relativi a Grok fino alla fine del 2026. È un segnale, come ricordato, che indica la costruzione di un dossier per eventuali azioni future.

    Cosa c’è da aspettarsi

    L’indagine del DPC richiederà tempo, settimane o mesi. Ma il fatto che si sia passati da interlocuzioni informali a un procedimento formale indica che il DPC ha ritenuto insufficienti le risposte di X alle prime sollecitazioni.

    Nel frattempo, negli Stati Uniti il Take It Down Act prevede che le piattaforme si adeguino entro maggio 2026. È una legge che riguarda specificamente la rimozione di immagini intime non consensuali, incluse quelle generate dall’intelligenza artificiale.

    Il Take It Down Act (approvato negli USA a maggio 2025) è una legge federale statunitense che obbliga le piattaforme online a rimuovere immagini e video intimi non consensuali (inclusi deepfake e revenge porn) entro 48 ore dalla segnalazione, garantendo una maggiore protezione delle vittime di abusi digitali e pornografia generata da IA.

    X si trova quindi sotto pressione su più fronti: UE, Regno Unito, Stati Uniti.

    E al centro di tutto c’è Grok, il chatbot che Musk ha promosso come più divertente e irriverente degli altri. Quella irriverenza, però, rischia di costare molto cara.

  • In Francia perquisita la sede di X e Musk convocato in Procura

    In Francia perquisita la sede di X e Musk convocato in Procura

    La Procura di Parigi ha perquisito gli uffici francesi di X e convocato Elon Musk e l’ex CEO Linda Yaccarino per il 20 aprile. L’inchiesta, avviata nel gennaio 2025, si è allargata a Grok e ai deepfake sessuali. È la prima volta che un proprietario di una grande piattaforma viene convocato dalla giustizia di uno Stato membro UE.

    Martedì 3 febbraio 2026, la sezione per la lotta al cybercrimine della Procura di Parigi ha perquisito la sede francese di X, la piattaforma di Elon Musk. L’operazione, condotta in collaborazione con la Gendarmeria nazionale ed Europol, rappresenta il passaggio più concreto di un’inchiesta che va avanti da oltre un anno. E che ora chiama in causa direttamente il proprietario della piattaforma.

    Musk e Linda Yaccarino, che è stata CEO di X dal 2023 al 2025, sono stati convocati per un’audizione libera il prossimo 20 aprile 2026. La Procura li ha citati rispettivamente come “gestore di fatto” e “gestore di diritto” della piattaforma. Durante la stessa settimana saranno ascoltati anche altri dipendenti di X come testimoni.

    Il caso di oggi rappresenta un fatto senza precedenti. Mai prima d’ora il proprietario di una delle maggiori piattaforme digitali al mondo era stato convocato dalla giustizia di uno Stato membro dell’Unione Europea.

    X in Francia, come nasce l’inchiesta

    L’indagine della magistratura francese ha origine nel 2025, quando il deputato Éric Bothorel, esponente del partito Renaissance di Emmanuel Macron e specializzato in cybersicurezza, ha presentato una segnalazione formale alla Procura di Parigi.

    Nel suo esposto, Bothorel denunciava le modifiche apportate all’algoritmo di X dopo l’acquisizione da parte di Musk nel 2022, sostenendo che tali cambiamenti favorissero la diffusione di informazioni false e contenuti polarizzanti. Stiamo parlando delle modifiche apportate e rese visibili dall’agosto del 2023.

    Bothorel aveva osservato una “riduzione della diversità delle voci e delle opzioni” sulla piattaforma, che si sarebbe allontanata dall’obiettivo di garantire un ambiente sicuro e rispettoso. Contestava inoltre l’assenza di chiarezza sui criteri che hanno guidato i cambiamenti algoritmici e gli interventi personali di Musk nella gestione della piattaforma.

    Bothorel attraverso questa denuncia rendeva concreta quella che era una sensazione di molti utenti sulla piattaforma.

    Una seconda segnalazione è arrivata da un alto funzionario della cybersicurezza pubblica francese, che ha denunciato come l’algoritmo di X proponesse “enormi contenuti politici di incitamento all’odio, razzisti, anti-LGBT+ e omofobi, puntando a orientare il dibattito democratico in Francia“.

    La Gendarmeria nazionale è stata incaricata delle indagini il 9 luglio 2025, con l’apertura formale del procedimento per “alterazione del funzionamento di un sistema di trattamento automatizzato di dati in banda organizzata“.

    In Francia perquisita la sede di X e Musk convocato in Procura
    In Francia perquisita la sede di X e Musk convocato in Procura

    L’allargamento delle indagini a Grok e ai deepfake

    L’inchiesta non si è fermata agli algoritmi. A gennaio 2026, la Procura di Parigi ha ampliato il fascicolo dopo ulteriori segnalazioni relative al funzionamento di Grok, l’intelligenza artificiale sviluppata da xAI e integrata nella piattaforma X.

    Grok è finito al centro di uno scandalo internazionale per la generazione di deepfake sessualmente espliciti. Secondo un’analisi del Center for Countering Digital Hate, organizzazione no-profit britannica, tra il 29 dicembre 2025 e il 9 gennaio 2026 sono state prodotte o modificate circa 3 milioni di immagini sessualmente esplicite raffiguranti persone reali senza il loro consenso. Di queste, circa 23.000 avevano come soggetto dei minori.

    I numeri sono impressionanti. In soli 11 giorni, Grok avrebbe generato contenuti a sfondo sessuale in media ogni pochi secondi e materiale che coinvolgeva minori circa una volta ogni 41 secondi.

    La risposta di xAI è arrivata a tappe. Il 9 gennaio la possibilità di “spogliare” persone reali con Grok è stata limitata agli abbonati premium. Il 14 gennaio, dopo le proteste di governi e istituzioni di diversi Paesi, la restrizione è stata estesa a tutti gli utenti. Ma i test condotti da diverse testate giornalistiche hanno mostrato che alcune funzionalità problematiche restano aggirabili.

    C’è poi un altro elemento che ha contribuito all’ampliamento dell’inchiesta. A novembre 2025, Grok aveva generato un post in lingua francese che metteva in dubbio l’uso delle camere a gas ad Auschwitz, riproponendo uno dei più tossici cliché della propaganda negazionista. Il contenuto è rimasto online per quasi tre giorni, raggiungendo oltre un milione di visualizzazioni prima di essere rimosso.

    X e l’indagine in Francia, i capi d’accusa

    Il comunicato della Procura di Parigi elenca i reati su cui verte l’indagine. L’elenco è lungo e tocca diversi ambiti del diritto francese.

    Si va dalla complicità nella detenzione e nella diffusione di immagini pedopornografiche alla lesione del diritto all’immagine della persona tramite deepfake a carattere sessuale.

    Compare poi la contestazione di crimini contro l’umanità, che in Francia rappresenta il reato di negazionismo.

    L’inchiesta riguarda anche l’estrazione fraudolenta di dati e l’alterazione del funzionamento di un sistema di trattamento automatizzato, entrambi in associazione a delinquere.

    Infine, c’è la gestione illegale di una piattaforma online, sempre in associazione a delinquere.

    È importante precisare che si tratta di un’audizione libera, non di un fermo. Musk e Yaccarino sono stati convocati per esporre la loro posizione sui fatti e illustrare le eventuali misure di conformità previste. La procuratrice Laure Beccuau ha definito l’approccio “costruttivo”, sottolineando che l’obiettivo ultimo è garantire la conformità della piattaforma alle leggi francesi.

    La sede perquisita di X e le competenze giurisdizionali

    Gli uffici perquisiti si trovano a Parigi e ospitano principalmente i servizi di comunicazione e pubbliche relazioni di X per il mercato francese. La sede giuridica della società si trova in Irlanda, dove X risulta stabilita ai fini del Digital Services Act europeo.

    Questo solleva una questione rilevante. L’inchiesta francese procede sul piano del diritto penale nazionale, parallelamente alle procedure che la Commissione Europea sta conducendo ai sensi del DSA. Sono due binari distinti che possono procedere in modo indipendente.

    Un dettaglio significativo emerge dalla risposta della stessa Procura di Parigi. L’ufficio ha comunicato che abbandonerà X come canale ufficiale di comunicazione, spostando le proprie comunicazioni istituzionali su LinkedIn e Instagram.

    Il contesto europeo

    Questa perquisizione si inserisce in un quadro più ampio di tensioni tra X e le autorità europee. Come abbiamo raccontato su questo blog, il 5 dicembre 2025 la Commissione Europea ha inflitto a X la prima multa della storia ai sensi del Digital Services Act, pari a 120 milioni di euro per tre violazioni degli obblighi di trasparenza. X non rispettava le regole sul design ingannevole delle spunte blu, sulla trasparenza del registro pubblicitario e sull’accesso ai dati per i ricercatori.

    Il 26 gennaio 2026, la Commissione ha aperto una nuova indagine formale specificamente su Grok e sui deepfake sessuali. Henna Virkkunen, vicepresidente esecutiva per la Sovranità tecnologica, ha definito i deepfake sessuali non consensuali di donne e bambini “una forma violenta e inaccettabile di degradazione”.

    L’indagine UE valuterà se X abbia violato gli articoli 34, 35 e 42 del DSA, che impongono alle grandi piattaforme di analizzare e mitigare i rischi sistemici prima di lanciare nuove funzionalità. La Commissione contesta in particolare il fatto che X non abbia trasmesso una valutazione ad hoc dei rischi prima di distribuire le funzionalità di Grok che hanno avuto un impatto critico sul profilo di rischio della piattaforma.

    Le implicazioni per l’Europa

    L’azione della Francia rappresenta un passaggio significativo nel rapporto tra piattaforme digitali e autorità nazionali europee. Come ricordato all’inizio, per la prima volta, uno Stato membro utilizza il proprio sistema giudiziario penale per chiamare in causa direttamente il proprietario di una grande piattaforma.

    Il deputato Bothorel, che ha dato avvio all’inchiesta con la sua segnalazione, ha commentato la perquisizione con un post su X nel quale ha scritto che “in Europa e in particolare in Francia, lo Stato di diritto significa che nessuno è al di sopra della legge e che i regolamenti europei, integrati nel diritto francese, sono vincolanti per tutti“.

    La vicenda potrebbe creare un precedente. Altri Paesi europei potrebbero sentirsi legittimati a investigare sulle pratiche di X e delle altre grandi piattaforme, aprendo una stagione di controlli più incisivi sul funzionamento degli algoritmi e sulla responsabilità delle piattaforme per i contenuti che ospitano e amplificano.

    Il contesto geopolitico rende tutto più delicato.

    Le relazioni tra Stati Uniti e Unione Europea sono già tese su diversi fronti, e Musk è diventato una figura centrale per l’amministrazione Trump.

    L’ex Commissario europeo Thierry Breton, che aveva guidato l’elaborazione del DSA, è stato inserito nella lista delle personalità a cui Washington ha vietato l’ingresso negli Stati Uniti proprio per il suo ruolo nella regolamentazione delle piattaforme digitali.

    X, Musk e il precedente in Brasile

    Questa vicenda richiama inevitabilmente quanto accaduto in Brasile tra aprile e ottobre 2024.

    Anche in quel caso, il confronto riguardava la richiesta di rimuovere account accusati di diffondere disinformazione e il rifiuto di Musk di conformarsi alle richieste del giudice Alexandre de Moraes. Anche allora, Musk aveva parlato di “censura” e “dittatura”, scatenando una campagna d’odio contro la Corte Suprema Federale brasiliana.

    Dopo il blocco totale della piattaforma, che aveva tagliato fuori oltre 22 milioni di utenti brasiliani, Musk fu costretto a cedere. Pagò oltre 5 milioni di dollari di multa, nominò un rappresentante legale locale e dalla piattaforma vennero rimossi gli account contestati.

    X era tornò online solo dopo aver rispettato tutte le condizioni poste dalla magistratura brasiliana.

    Il caso brasiliano ha dimostrato due cose. La prima è che quando uno Stato democratico è determinato a far rispettare le proprie leggi, anche il proprietario della piattaforma più influente del mondo alla fine si adegua.

    La seconda è che il prezzo del mancato adeguamento può essere molto alto, non solo in termini economici ma anche di perdita di utenti e danno reputazionale.

    L’approccio francesce, almeno per ora, è diverso, più graduale. Si procede con una perquisizione e una convocazione, non un ban immediato.

    Ma il messaggio di fondo è lo stesso che ho avuto modo di analizzare in quel caso: il rispetto delle leggi non è censura.

    E nessuna piattaforma, per quanto potente, può dichiararsi immune dalle regole che valgono per tutti coloro che operano sul territorio di uno Stato sovrano.

    Resta da capire se Musk seguirà lo stesso percorso del Brasile, cedendo alle richieste dopo un iniziale muro contro muro. Oppure se, forte della sua vicinanza all’amministrazione Trump, deciderà di irrigidirsi ulteriormente, trasformando il caso francese in uno scontro frontale tra Washington e l’Europa sulla regolamentazione delle piattaforme digitali.

    X e l’indagine in Francia, cosa aspettarci

    L’appuntamento del 20 aprile 2026 rappresenterà un momento chiave. Le audizioni di Musk e Yaccarino permetteranno agli inquirenti di valutare le posizioni della dirigenza di X sui fatti contestati e le eventuali misure di adeguamento previste.

    Resta da capire se Musk si presenterà effettivamente a Parigi. L’audizione è “libera”, il che significa che non è obbligato a comparire. Ma la sua assenza avrebbe un significato politico notevole e potrebbe influenzare l’evoluzione del procedimento.

    L’inchiesta francese procede in parallelo a quella della Commissione Europea. Sono due livelli di enforcement distinti, il diritto penale nazionale e la regolamentazione europea sulle piattaforme, che convergono sullo stesso obiettivo: verificare se X rispetti le regole che valgono per tutti coloro che operano sul territorio europeo.

    È un test importante per l’Europa. La capacità di far rispettare le proprie leggi alle grandi piattaforme digitali, anche quando sono di proprietà dell’uomo più ricco del mondo, definirà la credibilità del quadro normativo che l’Unione si è data negli ultimi anni. E la Francia, con questa perquisizione e con la convocazione di Musk, ha scelto di posizionarsi in prima linea.

  • La UE apre un’indagine su X per le immagini di nudo di Grok

    La UE apre un’indagine su X per le immagini di nudo di Grok

    La Commissione UE ha deciso di aprire un’indagine sulle immagine di nudo generate dall’intelligenza artificiale Grok. L’indagine si estende anche ai sistemi di raccomandazione basati sull’intelligenza artificiale di xAI. X rischia sanzioni fino al 6% del fatturato globale.

    Era una questione di tempo e quel tempo è arrivato oggi. Infatti, la Commissione Europea ha aperto un’indagine formale su X per la diffusione di materiale sessualmente esplicito generato dal chatbot Grok.

    L’indagine viene condotta ai sensi del Digital Services Act, lo stesso regolamento che a dicembre ha portato alla prima multa della storia per X ai sensi del DSA.

    Ma questa volta la posta in gioco è decisamente più alta. Non si tratta più di spunte blu ingannevoli o di registri pubblicitari incompleti. Si parla di deepfake non consensuali che coinvolgono donne e minori; di immagini generate a un ritmo industriale; di una tecnologia rilasciata senza i filtri minimi necessari a prevenirne l’abuso.

    La UE apre un'indagine su X per le immagini di nudo di Grok
    La UE apre un’indagine su X per le immagini di nudo di Grok

    Le parole di Bruxelles non lasciano spazio a interpretazioni

    Henna Virkkunen, vicepresidente esecutiva della Commissione responsabile per sovranità tecnologica, sicurezza e democrazia, ha usato parole senza mezzi termini. I deepfake sessuali non consensuali di donne e bambini rappresentano “una forma violenta e inaccettabile di degradazione”.

    E ha aggiunto che l’indagine servirà a determinare “se X ha rispettato i propri obblighi legali ai sensi del DSA, oppure se ha trattato i diritti dei cittadini europei, inclusi quelli di donne e minori, come danni collaterali del proprio servizio”.

    Danni collaterali. È un’espressione che chi segue questa vicenda da settimane sa bene a cosa si riferisce. Perché è esattamente quello che è successo.

    Come avevo illustrato all’inizio di gennaio nell’articolo sulle migliaia di immagini di nudo generate da Grok, le stime indicavano che Grok stava generando circa 6.700 immagini sessualizzate all’ora, un ritmo 84 volte superiore a quello degli altri cinque principali siti specializzati in questo tipo di contenuti. L’85% delle immagini generate era di natura sessuale. E le vittime non avevano alcuno strumento per difendersi.

    L’indagine si allarga ai sistemi di raccomandazione

    C’è un secondo aspetto dell’annuncio di oggi che merita attenzione. La Commissione ha anche esteso un’indagine già in corso, avviata a dicembre 2023, per verificare se X abbia valutato e mitigato correttamente tutti i rischi sistemici legati ai suoi sistemi di raccomandazione.

    In particolare, i regolatori vogliono capire quale sarà l’impatto del passaggio al nuovo sistema basato interamente su Grok.

    Questo è un punto che avevo approfondito analizzando come cambia l’algoritmo di X con Grok nel 2026.

    A ottobre 2025 Musk aveva annunciato che entro poche settimane tutte le euristiche manuali sarebbero state eliminate, lasciando all’intelligenza artificiale il compito di analizzare e raccomandare contenuti. Quel codice è ora pubblico su GitHub, e la transizione è completata. Ma una cosa è pubblicare il codice, un’altra è garantire che il sistema non amplifichi contenuti dannosi o illegali.

    La Commissione ha chiarito che X potrebbe dover affrontare misure provvisorie se non apporterà modifiche significative al proprio servizio. È un avvertimento che non era mai stato formulato in questi termini.

    La risposta tardiva di xAI

    La difesa di X si basa su quanto comunicato a metà gennaio. La società ha dichiarato di aver implementato misure tecniche per impedire all’account Grok su X di consentire la modifica di immagini di persone reali in abbigliamento succinto.

    Ha inoltre limitato la creazione di immagini ai soli abbonati paganti e bloccato la generazione di questo tipo di contenuti nelle “giurisdizioni dove è illegale”, senza però specificare quali siano queste giurisdizioni.

    Come avevo scritto nell’analisi su Grok e la spunta blu che non rende sicura la generazione di immagini, spostare la funzionalità dietro un paywall non è una misura di sicurezza. Significa in buona sostanza, avallare la monetizzazione dell’abuso. La spunta blu non funziona come filtro morale, e i dati lo dimostrano. Lo ricordiamo ancora una volta, l’utente che ha chiesto a Grok di manipolare l’immagine della donna uccisa a Minneapolis era un abbonato verificato.

    Il contesto internazionale si fa sempre più ostile

    Ma l’UE non è la sola a procedere in questa direzione. Anche Regno Unito, India, Malesia e altri paesi stanno conducendo indagini parallele.

    In Francia, la procura di Parigi ha esteso un’indagine su X per includere accuse secondo cui Grok sarebbe stato usato per generare e diffondere materiale pedopornografico. In California, il governatore Newsom ha chiesto al procuratore generale di indagare su xAI.

    E proprio nel Regno Unito, dove il governo UK ha varato la legge contro i deepfake di Grok, si è compiuto un passo decisivo. La nuova norma prevede pene detentive fino a due anni per chiunque generi deepfake intimi non consensuali, a prescindere dall’intento di condividerli. Diventa illegale anche la distribuzione di software di “denudazione”. E le piattaforme rischiano sanzioni fino al 10% del fatturato globale annuo attraverso l’Online Safety Act.

    Il Regno Unito si posiziona così come il primo mercato occidentale a criminalizzare l’intero ciclo di vita del deepfake, dalla progettazione del software alla sua distribuzione, fino alla generazione della singola immagine.

    Cosa succede ora

    L’indagine della Commissione valuterà se X ha correttamente valutato e mitigato i rischi associati all’implementazione delle funzionalità di Grok nell’Unione Europea. Il DSA impone alle piattaforme di grandi dimensioni di identificare, analizzare e mitigare i rischi sistemici derivanti dai propri servizi.

    Se la Commissione dovesse concludere che X ha violato questi obblighi, le sanzioni potrebbero arrivare fino al 6% del fatturato globale annuo.

    Assumendo che il fatturato globale 2025 di X è, secondo le stime, di 2,9 miliardi di dollari, il 6% sarebbe in sostanza 174 milioni di dollari. Vale a dire, circa 146,5 milioni di euro.

    Ma c’è di più. La multa di dicembre, 120 milioni di euro, era stata definita dalla stessa Commissaria Virkkunen come “modesta ma proporzionata”. Questa nuova indagine riguarda violazioni di natura completamente diversa.

    Infatti, non si tratta di trasparenza pubblicitaria o di accesso ai dati per i ricercatori, pur sempre temi di una certa rilevanza. Si tratta della diffusione di contenuti che, nelle parole dei regolatori UE, costituiscono “una forma di violenza”.

    La scelta di Musk di posizionare Grok come un’intelligenza artificiale “spicy”, con meno restrizioni, si scontra ora con un ecosistema normativo che non concede più sconti.

    Il vero vantaggio competitivo per chi sviluppa intelligenza artificiale, oggi, non risiede nella libertà assoluta di generare qualsiasi contenuto. Ma risiede nella capacità di costruire sistemi sicuri per design.

    Anche questo concetto, proprio in virtù dell’apertura di queste indagini, è utile ribadire.

    Le aziende che sapranno garantire che la loro tecnologia non possa essere usata come arma di aggressione digitale saranno quelle in grado di operare in un mercato che, da oggi, ha regole molto più stringenti.

    E questa è forse la lezione più importante di questa vicenda. Le conseguenze delle scelte di progettazione ricadono sempre su qualcuno. E quando ricadono sulle vittime, lo Stato interviene.

  • Deepfake, il governo Uk vara la legge contro Grok questa settimana

    Deepfake, il governo Uk vara la legge contro Grok questa settimana

    Il governo Uk ha annunciato l’arrivo in questa settimana di una nuova legge per contrastare il fenomeno deepfake di Grok: 2 anni di carcere per la creazione di deepfake; stop alla distribuzione di software di denudazione; sanzioni per le piattaforme fino al 10% del fatturato globale annuo.

    Il governo del Regno Unito ha deciso di imprimere un’accelerazione decisa alla regolamentazione dell’Intelligenza Artificiale generativa. Dopo giorni in cui si sono rincorse tante notizie, il governo di Starmer ha optato per la strada regolatoria.

    Secondo quanto riportato BBC, in questa settimana entra in vigore la nuova fattispecie di reato che punisce la sola creazione di deepfake intimi non consensuali. La norma prevede pene detentive fino a due anni di reclusione per chiunque generi tali immagini, a prescindere dall’intento di condividerle o pubblicarle.

    La svolta legislativa, integrata nel Data Use and Access Act, introduce un ulteriore livello di restrizione: il divieto di diffusione.

    Londra si prepara a rendere illegali i software e i servizi di “denudazione”, ovvero gli strumenti progettati per denudare digitalmente attraverso l’uso di immagini di persone reali.

    L’obiettivo è colpire la filiera tecnologica alla radice, rendendo perseguibili non solo gli utenti, ma anche gli sviluppatori e i distributori di tali applicazioni.

    Deepfake, il governo Uk vara la legge contro Grok questa settimana
    Deepfake, il governo Uk vara la legge contro Grok questa settimana

    La pressione su X e i blocchi internazionali

    L’iniziativa di Downing Street giunge in un momento di forte pressione su Grok, l’IA di xAI integrata nella piattaforma X. Nei giorni scorsi, Malesia e Indonesia hanno già provveduto a bloccare l’utilizzo di Grok integrato nella piattaforma X, citando l’assenza di filtri efficaci.

    Il Premier britannico, Keir Starmer, è intervenuto direttamente sulla vicenda con un monito esplicito: “se le piattaforme non dimostreranno di poter controllare i propri strumenti e proteggere i cittadini, lo Stato utilizzerà pienamente i propri poteri coercitivi”.

    Keir Starmer annuncio legge deepfake Regno Unito gennaio 2026
    Keir Starmer annuncio legge deepfake Regno Unito gennaio 2026

    La Technology Secretary, Liz Kendall, ha rincarato la dose definendo questi software “armi di abuso” che “alimentano la misoginia e la violenza sessuale”, confermando che la scelta di X di limitare queste funzioni agli utenti Premium non è considerata una misura di sicurezza valida.

    Liz Kendall, Segretaria di Stato Uk per la Scienza, l'Innovazione e la Tecnologia
    Liz Kendall, Segretaria di Stato Uk per la Scienza, l’Innovazione e la Tecnologia

    I numeri dell’emergenza: i dati Ofcom e NPCC

    L’urgenza del provvedimento è dettata da evidenze che hanno alimentato il senso di emergenza:

    • Produzione estesa di deepfake: le stime indicano che tramite Grok vengono generate circa 6.700 immagini pornografiche non consensuali ogni ora, spesso coinvolgendo figure pubbliche e minori.

    • Incremento dei reati: secondo il National Policing Statement 2024 dell’NPCC, la violenza abilitata dalla tecnologia contro donne e ragazze è aumentata del 37% tra il 2018 e il 2023.

    • Sanzioni: l’autorità Ofcom ha ora il mandato per procedere con indagini che possono portare a sanzioni pecuniarie fino al 10% del fatturato globale annuo di X per il mancato rispetto dei doveri di cura stabiliti dall’Online Safety Act.


    Legge Uk colpisce il ciclo deepfake

    Con l’attivazione delle nuove norme, il Regno Unito si posiziona come il primo mercato occidentale a criminalizzare l’intero ciclo di vita del deepfake: dalla progettazione del software alla sua fornitura, fino alla generazione della singola immagine.

    La messa al bando dei servizi di “denudazione” e l’introduzione della responsabilità penale individuale segnano, possiamo dirlo, la fine della fase di autoregolamentazione per le aziende produttrici di IA generativa.

  • Grok, la spunta blu non rende sicura la generazione di immagini

    Grok, la spunta blu non rende sicura la generazione di immagini

    X ha ufficialmente limitato la creazione di immagini ai soli utenti Premium. Una mossa che non sorprende, ma che sposta semplicemente la violenza digitale dietro un abbonamento, confermando che la sicurezza per Elon Musk è un servizio accessorio e non un requisito strutturale.

    Dopo le polemiche, inevitabili, X ha deciso finalmente di operare su quello che è diventata una grave emergenza. Il fenomeno della modifica delle immagini attraverso messaggi testuali a Grok (la IA di xAI) ha assunto dimensioni allarmanti e i dati che ho raccolto nell’articolo di ieri lo dimostrano.

    Grok, la generazione di immagini su X solo per abbonati a Premium

    Ebbene, il messaggio apparso agli utenti nelle ultime ore mostra questo atteso, ma comunque tardivo, cambio di passo: “La generazione e la modifica di immagini sono attualmente limitate agli abbonati paganti”. Questa restrizione arriva, ricordiamolo, dopo una settimana di critiche globali e pressioni senza precedenti da parte del governo britannico e della Commissione Europea.

    Grok, la spunta blu non rende sicura la generazione di immagini
    Il messaggio di Grok in risposta alla richiesta di account non abbonati a X

    Come abbiamo visto, la “spunta blu” non funziona come una sorta di filtro morale. L’utente che ha chiesto di manipolare l’immagine della donna uccisa a Minneapolis, un esempio che definisce il punto più basso di questa deriva tecnologica, era proprio un utente abbonato. Limitare l’accesso a chi paga significa ammettere che, una volta abbonato, la dignità delle persone rimane un territorio di conquista privo di filtri.

    Grok e l'immagine della ragazza uccisa a Minneapolis
    Grok e l’immagine della ragazza uccisa a Minneapolis
    Grok e l'immagine della ragazza uccisa a Minneapolis
    Grok e l’immagine della ragazza uccisa a Minneapolis

    I numeri allarmanti dell’emergenza su X

    I dati, ricordati ieri, che emergono dalle ultime inchieste delineano un quadro di abuso sistemico che nessuna limitazione di accesso sembra aver ancora frenato:

    • 6.700 immagini sessualizzate all’ora: è il ritmo di generazione rilevato da ricercatori citati da Bloomberg durante i picchi di attività di questa settimana.

    • 3/4 delle richieste analizzate: secondo una ricerca del Trinity College di Dublino, circa il 75% dei prompt raccolti riguardava la richiesta di “denudare” o sessualizzare donne e minori.

    • 800 contenuti pedopornografici o violenti: rintracciati dall’organizzazione AI Forensics tramite l’app “Grok Imagine”, che sembra mantenere maglie ancora più larghe rispetto all’interfaccia standard.

    La posizione UE: “Non è piccante, è illegale”

    Bruxelles ha già chiarito che non accetterà soluzioni di comodo. Thomas Regnier, portavoce della Commissione Europea per il digitale, è stato categorico definendo i contenuti generati “disgustosi” e “illegali”, sottolineando che la narrazione di Musk su una “IA piccante” non ha basi giuridiche in Europa.

    La Commissione ha già ordinato a X di conservare tutti i documenti interni e i dati relativi a Grok fino alla fine del 2026 per facilitare le indagini in corso. Il rischio per la piattaforma è altissimo:

    1. Sanzioni DSA: dopo la multa di 120 milioni di euro ricevuta a dicembre 2025, X rischia ora sanzioni fino al 10% del fatturato globale.

    2. Online Safety Act (UK): il primo ministro Keir Starmer ha dichiarato che Ofcom ha il pieno supporto per agire, inclusa la possibilità di richiedere il blocco della piattaforma nel Regno Unito.


    Grok, la spunta blu non rende sicura la generazione di immagini
    Grok, la spunta blu non rende sicura la generazione di immagini

    Oltre il paywall: la sicurezza come vantaggio competitivo

    In definitiva, l’errore di fondo rimane la scelta di aver rilasciato in uso a chiunque uno strumento così potente senza alcun tipo di filtro semantico e contestuale. Lo spostamento della funzionalità dietro un paywall non è una misura di sicurezza, ma una monetizzazione dell’abuso. Oltre che una foglia di fico.

    Il vero vantaggio competitivo per chi sviluppa Intelligenza Artificiale oggi non risiede nella “libertà assoluta” di generare orrori, ma nella capacità di costruire sistemi sicuri per design (safety-by-design).

    Le aziende che sapranno garantire che la loro tecnologia non possa essere usata come arma di aggressione digitale saranno quelle in grado di procedere all’interno di un ecosistema normativo che, da oggi, non concede più sconti.

  • Grok ha generato migliaia di immagini di nudo, e non solo

    Grok ha generato migliaia di immagini di nudo, e non solo

    La situazione ormai si è trasformata in un’emergenza. Grok in pochi giorni ha generato 6.700 immagini sessualizzate all’ora. Vale a dire 84 volte più degli altri siti di deepfake. E le vittime non hanno strumenti per difendersi. L’ultimo caso riguarda anche la vicenda di Minneapolis.

    Pochi giorni fa avevo raccontato in un post cosa stava accadendo su X con la nuova funzionalità “Edit Image” di Grok.

    Utenti che chiedevano al chatbot di rimuovere leader politici dalle foto usando descrizioni come “pedofilo” o “criminale di guerra”. Immagini di donne modificate per “svestirle” digitalmente. La sezione Media dell’account Grok disabilitata dopo essere stata inondata di contenuti pornografici.

    Avevo scritto che il problema era strutturale. Che quando si lancia una funzionalità che permette a chiunque di modificare qualsiasi immagine pubblica, senza consenso, senza possibilità di disattivare, senza filtri adeguati, il risultato è abbastanza prevedibile.

    Un rischio che a quanto pare Elon Musk ha preferito correre, sempre mantenendo fede alla sua versione di free speech.

    Il fenomeno è cresciuto in questi giorni, assumendo contorni piuttosto allarmanti. Ed è il caso di provare a dare qualche numero per rendere più chiaro di cosa si sta parlando.

    Ieri Bloomberg ha pubblicato i dati di un’inchiesta che dà una dimensione concreta. E i numeri sono peggiori di quanto si potesse immaginare.

    Grok ha generato migliaia di immagini di nudo, e non solo
    Grok ha generato migliaia di immagini di nudo, e non solo

    Su X 6.700 immagini sessuali all’ora generate da Grok

    Secondo l’analisi condotta da Genevieve Oh, ricercatrice specializzata in deepfake, tra il 5 e il 6 gennaio 2026 Grok ha generato circa 6.700 immagini all’ora identificate come sessualmente allusive o che “spogliano” digitalmente le persone.

    Per comprendere la portata, gli altri cinque principali siti per questo tipo di contenuti hanno registrato una media di 79 nuove immagini all’ora nello stesso periodo. Grok ne produce 84 volte di più.

    L’85% delle immagini generate da Grok, complessivamente, sono sessualizzate.

    Come ha detto Carrie Goldberg, avvocata specializzata in crimini sessuali online, la scala del fenomeno su X è “senza precedenti”. Non abbiamo mai avuto una tecnologia che rendesse così facile generare nuove immagini, perché Grok è gratuito e integrato in un sistema di distribuzione già esistente con centinaia di milioni di utenti.

    Ma il peggio sembra non essere su X

    Ma quello che succede su X è solo la parte visibile del problema. Wired ha rivelato che sul sito web e sull’app di Grok la situazione è molto peggiore.

    A differenza di X, dove l’output di Grok è pubblico per default, le immagini e i video creati sull’app o sul sito web di Grok usando il modello “Imagine” non vengono condivisi apertamente. Ma se un utente condivide un URL Imagine, il contenuto diventa visibile a chiunque.

    Wired ha analizzato un archivio di circa 1.200 link “Imagine”, tra quelli indicizzati da Google e quelli condivisi su forum di deepfake pornografici. Ha trovato video sessuali che sono molto più espliciti delle immagini create da Grok su X.

    Purtroppo, per capire di cosa si parla bisogna anche cercare di andare a fondo alle cose. E spesso non è bello, ma è necessario.

    Alcuni esempi di Grok Image raccapriccianti

    Un video fotorealistico ospitato su Grok.com mostra un uomo e una donna completamente nudi generati dall’IA, coperti di sangue su corpo e viso, che fanno sesso, mentre altre due donne nude ballano sullo sfondo.

    Un altro video include una donna nuda generata dall’IA con un coltello inserito nei genitali, con sangue sulle gambe e sul letto. Altri video mostrano raffigurazioni nude di Diana, Principessa del Galles, che fa sesso con due uomini, con overlay dei loghi di Netflix e della serie The Crown.

    Paul Bouchaud, ricercatore capo della no-profit parigina AI Forensics, ha analizzato circa 800 degli URL archiviati contenenti video o immagini creati da Grok. “Sono in modo schiacciante contenuti sessuali“, ha detto. “La maggior parte delle volte sono manga ed hentai espliciti e altri contenuti fotorealistici.”

    Un ricercatore ha segnalato circa 70 URL di Grok che potrebbero contenere contenuti sessualizzati di minori ai regolatori europei.

    Clare McGlynn, professoressa di diritto alla Durham University ed esperta di abusi sessuali basati su immagini, ha commentato: “Nelle ultime settimane, e ora questo, sembra che siamo caduti da un dirupo e stiamo precipitando negli abissi della depravazione umana.

    Le vittime non possono difendersi

    Bloomberg, riportare i dati dell’analisi visti all’inizio, racconta diversi casi concreti. Maddie, una studentessa di medicina di 23 anni, si è svegliata la mattina di Capodanno davanti a un’immagine che l’ha sconvolta. Aveva pubblicato su X una foto con il fidanzato in un bar. Due sconosciuti l’hanno modificata usando Grok. Il primo ha chiesto di rimuovere il fidanzato e metterla in bikini. Il secondo ha chiesto di sostituire il bikini con un filo interdentale.

    Maddie ha segnalato le immagini a X tramite i sistemi di moderazione. Non ha mai ricevuto risposta. Quando ha segnalato un post di uno degli utenti che aveva fatto la richiesta a Grok, X ha comunicato che “non vi erano violazioni delle regole di X nei contenuti segnalati”. Le immagini erano ancora online al momento della pubblicazione dell’articolo.

    Un’altra vittima, BBJess, racconta che i siti avevano finalmente iniziato a rimuovere le sue immagini svestite pubblicate senza consenso. Ma Grok la scorsa settimana ha dato il via a una nuova ondata. I post sono peggiorati quando è intervenuta su X per difendersi e criticare i deepfake.

    Mikomi, artista che pubblica contenuti erotici, spiega che il problema è particolarmente accentuato per donne come lei che già condividono immagini del proprio corpo online. Alcuni utenti di X vedono questo come un permesso a sessualizzarle in modi che non hanno mai autorizzato.

    Come molti utenti di X, Mikomi ha scritto un post avvertendo Grok che non acconsente all’alterazione delle sue foto. “Non funziona”, ha detto. “Bloccare Grok non funziona. Niente funziona.” Non può abbandonare la piattaforma perché è vitale per il suo lavoro.

    “Cosa dovrei fare? Vuoi che perda il mio lavoro?”

    La differenza con gli altri chatbot

    Come già sottolineato, a differenza di altri chatbot, Grok non impone limiti efficaci agli utenti e non li blocca dal generare contenuti sessualizzati di persone reali, compresi i minori.

    Altre tecnologie di IA generativa, tra cui quelle di Anthropic, OpenAI e Google, si sono attrezzati, in qualche modo, per impedire la creazione di questo tipo di contenuti sin dall’inizio. Ma la società di Musk agisce in modo completamente diverso, tutto è concesso senza limiti.

    Musk ha promosso Grok come un chatbot più divertente e irriverente rispetto agli altri, vantandosi del fatto che X sia un luogo per la libertà di espressione. Piuttosto che impedire al chatbot di creare questi contenuti fin dall’inizio, ha parlato di punire gli utenti che glieli chiedono: “Chiunque usi Grok per creare contenuti illegali subirà le stesse conseguenze di chi carica contenuti illegali”.

    Ma questo non lascia molte opzioni alle vittime.

    La risposta delle istituzioni UE

    L’Unione Europea ha deciso di intervenire su questo caso.

    La Commissione Europea ha infatti ordinato a X di conservare tutti i documenti interni e i dati relativi a Grok fino alla fine del 2026. Il portavoce Thomas Regnier ha spiegato il senso dell’ordine: “Questo significa dire a una piattaforma: conserva i tuoi documenti interni, non liberartene, perché abbiamo dubbi sulla tua conformità“.

    La Commissione ha esteso un ordine di conservazione già inviato a X l’anno scorso, che riguardava algoritmi e diffusione di contenuti illegali.

    È un passaggio che si inserisce in un percorso già avviato. Solo il mese scorso, a dicembre 2025, la Commissione Europea ha inflitto a X una multa di 120 milioni di euro per violazione del Digital Services Act. La sanzione riguardava la mancata trasparenza sui sistemi di raccomandazione algoritmica e l’assenza di strumenti adeguati per verificare le informazioni sulla piattaforma. L’ordine di conservazione documenti su Grok segnala che Bruxelles sta costruendo un dossier per una possibile nuova azione.

    Siamo consapevoli del fatto che X o Grok sta ora offrendo una ‘Modalità Piccante’ che mostra contenuti sessuali espliciti, con alcune uscite generate con immagini di minori“, ha dichiarato Regnier in conferenza stampa. “Questo non è piccante. Questo è illegale.”

    Venerdì scorso Grok ha ammesso di aver identificato falle nello strumento, descrivendole come “mancanze nelle protezioni”, e ha dichiarato che stava lavorando “urgentemente” per correggerle. La risposta ufficiale di X a Reuters sulla vicenda è stata invece di altro tenore: “Legacy Media Lies”.

    Sulla sua piattaforma Musk ha minimizzato le preoccupazioni postando emoji che ridono fino alle lacrime in risposta a figure pubbliche modificate per sembrare in bikini.

    Nel frattempo, altri enti regolatori si stanno muovendo.

    Ofcom, l’autorità britannica per le comunicazioni, ha contattato urgentemente X e xAI per capire quali misure abbiano adottato per adempiere ai loro doveri legali di protezione degli utenti. L’India ha minacciato di togliere a X l’immunità legale per i contenuti degli utenti se non presenterà tempestivamente una relazione sulle azioni intraprese. Anche Australia, Brasile, Francia e Malesia stanno monitorando la situazione.

    Negli Stati Uniti la situazione è più complessa. La Sezione 230 del Communications Decency Act protegge le piattaforme dalla responsabilità per i contenuti pubblicati. Ma il senatore Ron Wyden, co-autore di quella legge nel 1996, ha dichiarato che la norma non dovrebbe proteggere i prodotti dell’IA delle aziende. “Dato che l’amministrazione Trump fa di tutto per proteggere i pedofili, gli Stati dovrebbero intervenire per chiamare Musk e X alle loro responsabilità“, ha scritto su Bluesky.

    Il “Take It Down Act”, legge federale firmata nel 2025, rende le piattaforme responsabili della produzione e distribuzione di questo tipo di contenuti. Le piattaforme hanno tempo fino a maggio 2026 per istituire il processo di rimozione richiesto. Amy Klobuchar, senatrice tra i principali promotori della legge, ha scritto: “X deve cambiare questa situazione. Se non lo farà, il Take It Down Act presto glielo imporrà.

    Nel frattempo, diversi stati americani si stanno muovendo autonomamente. California, New Mexico e New York stanno valutando azioni legali.

    C’è un dettaglio che rende la vicenda ancora più paradossale. Grok è un software utilizzato dal governo federale americano. Come ha fatto notare la rappresentante Madeleine Dean: “È inaccettabile che un software utilizzato dal governo federale sia vulnerabile a usi così odiosi e illegali.”

    Filtri insufficienti e mancanza di rispetto

    Nelle ultime ore, probabilmente nella giornata dell’8 gennaio, xAI sembrerebbe aver introdotto alcuni filtri. Le richieste più esplicite di nudità completa vengono ora bloccate. Nel senso che Grok su X non da seguito alla richiesta.

    Ma le richieste di mettere persone in bikini o in abiti sessualizzati continuano a restare online senza che nessuno le rimuova.

    Un caso emerso oggi mostra quanto questi filtri siano insufficienti.

    Grok l’immagine folle della ragazza uccisa a Minneapolis

    Un utente ha risposto ad un post dove era stata condivisia la foto della ragazza uccisa a Minneapolis, un caso che ha coinvolto l’ICE e sta facendo molto discutere. La foto ritraeva Renee Nicole Good ormai esanime.

    Questo utenti ha utilizzao l’immagine per a Grok di “metterla in bikini”. Grok ha eseguito la richiesta senza opporre alcuna resistenza.

    Grok e l'immagine della ragazza uccisa a Minneapolis
    Grok e l’immagine della ragazza uccisa a Minneapolis
    Grok e l'immagine della ragazza uccisa a Minneapolis
    Grok e l’immagine della ragazza uccisa a Minneapolis

    Il post con la richiesta ha superato le 480.000 visualizzazioni. L’immagine generata da Grok ne ha raggiunto 427.000. Una donna morta, sessualizzata da un’intelligenza artificiale su richiesta di uno sconosciuto (con la spunta blu), davanti a milioni di persone.

    Questo esempio è la sintesi di tutto. Non è solo la generazione di contenuti sessualizzati non consensuali. È la totale assenza di qualsiasi filtro contestuale. Qualsiasi sistema con un minimo di consapevolezza avrebbe dovuto rifiutarsi di intervenire.

    Il problema è strutturale

    Torniamo al punto che avevamo sollevato pochi giorni fa. Non è più solo un problema di utenti malintenzionati che abusano di uno strumento neutro. È un problema di architettura.

    Quando si progetta una funzionalità senza alcun livello di protezione, senza meccanismi di consenso, senza possibilità per gli utenti di proteggere i propri contenuti, automaticamente si sta scegliendo di accettare questi scenari.

    La velocità con cui questa funzionalità è degenerata racconta qualcosa su cui vale la pena riflettere. Dal lancio il 24 dicembre a oggi, 8 gennaio, sono passate due settimane. In due settimane siamo passati da “una nuova funzionalità interessante” a “migliaia di immagini di nudo non consensuale generate ogni ora”.

    E questo ci riporta al concetto di algoritmo del proprietario. Musk ha scelto di posizionare Grok come un’IA “spicy”, con meno restrizioni. Ha scelto di integrare la generazione di immagini direttamente nel flusso social, senza filtri. Ha scelto di non dare agli utenti la possibilità di proteggere i propri contenuti.

    Queste sono scelte. E le conseguenze di queste scelte ricadono sulle vittime, i primis, e sugli utenti.

    Il problema è che queste immagini sono ancora online e nessuno si decide ad intervenire. Men che meno il proprietario della piattaforma.

  • Violenza sulle donne: tecnologia e IA, i nuovi alleati

    Violenza sulle donne: tecnologia e IA, i nuovi alleati

    Dalla violenza online alla prevenzione clinica, la tecnologia offre strumenti concreti per proteggere le donne. La giornata contro la violenza sulle donne è l’occasione per conoscere chatbot e Intelligenza Artificiale che trasformano il digitale in alleato.

    Quasi duemila casi sospetti di violenza sulle donne, rimasti invisibili ai registri ufficiali del sistema sanitario, sono stati identificati da un algoritmo. La verifica manuale su un campione ha confermato la correttezza delle predizioni nel 96% dei casi.

    Non è fantascienza, è il progetto ViDeS (Violence Detection System) dell’Università di Torino, presentato proprio oggi, 25 novembre 2025, nella Giornata internazionale per l’eliminazione della violenza contro le donne.

    La notizia, rilanciata da Euronews e Il Sole 24 Ore, rappresenta plasticamente il punto in cui ci troviamo. E cioè, la tecnologia, e in particolare l’intelligenza artificiale, dal ruolo di potenziale minaccia (deepfake, stalkerware, molestie online) passa anche a quello di alleato concreto nella prevenzione e nel contrasto della violenza di genere.

    In pratica, la tecnologia e quindi anche la IA rivestono questo duplice ruolo di minaccia e alleato. E in questa giornata guardiamo insieme cosa davvero possono fare come alleati.

    La violenza digitale al centro dell’agenda ONU

    La campagna 2025 delle Nazioni Unite si intitola “UNiTE to End Digital Violence against Women and Girls” e pone al centro proprio la violenza digitale. Non è una scelta casuale. I dati dell’Istituto europeo per l’uguaglianza di genere sono molto chiari: una donna su dieci in Europa ha già subito violenze digitali prima dei 15 anni; e il 58% delle adolescenti subisce molestie sui social media quasi ogni giorno.

    La violenza digitale comprende un ventaglio di comportamenti: diffusione non consensuale di immagini intime, cyberstalking, deepfake pornografici, discorsi d’odio, tracciamento delle attività tramite stalkerware.

    Secondo le Nazioni Unite, il 95% degli abusi online avviene contro le donne, e nel 70% dei casi chi subisce violenza digitale subisce anche violenza fisica o sessuale dal partner.

    Il costo economico stimato dal Parlamento Europeo oscilla tra i 49 e gli 89 miliardi di euro annui in Europa, includendo spese sanitarie, legali, perdita di produttività e minore partecipazione al mercato del lavoro.

    Ma il costo umano, naturalmente, resta incalcolabile.

    Violenza sulle donne: tecnologia e IA, i nuovi alleati
    Violenza sulle donne:
    tecnologia e IA, i nuovi alleati

    L’AI che “legge” i referti: il caso italiano ViDeS e PAUSE

    Parlando di Intelligenza Artificiale in una giornata come questa, è il caso di segnalare progetti che nascono come valido aiuto per contrastare il fenomeno della violenza contro le donne.

    Il progetto ViDeS, sviluppato dal Dipartimento di Informatica dell’Università di Torino con il sostegno della Fondazione CRT, rappresenta oggi il progetto italiano più avanzato nell’uso dell’intelligenza artificiale per la prevenzione della violenza di genere.

    Il sistema analizza automaticamente i referti del pronto soccorso per identificare lesioni di probabile origine violenta, anche quando l’anamnesi non lo dichiara esplicitamente.

    Il modello è stato addestrato su circa 350-390mila referti dell’ospedale Mauriziano relativi al periodo 2015-2024. Il risultato? Un’accuratezza del 96-98% nell’identificare casi sospetti. Mentre nei registri ufficiali l’ospedale aveva annotato solo 900 casi di violenza, l’algoritmo ne ha segnalati quasi 2.000.

    Il progetto si integra con PAUSE (Prevention of Assault Under Scientific Evidence), che aggiunge una dimensione dinamica. Infatti, non si limita a leggere un singolo referto, ma ricostruisce la cronologia degli accessi e dei traumi, analizzando frequenza, tipologia e variabilità delle spiegazioni fornite. Lo scopo è distinguere la fisiologia clinica dai segnali precoci di violenza domestica.

    Come sottolinea Anna Maria Poggi, presidente della Fondazione CRT: “La tecnologia, quando è guidata da responsabilità e da una visione etica, può diventare un alleato prezioso nella tutela delle persone più vulnerabili.

    Chatbot e app: l’aiuto silenzioso che non lascia tracce

    Se l’AI applicata ai dati sanitari lavora sulla prevenzione “a monte”, esiste un altro fronte: quello del supporto diretto alle donne in difficoltà.

    E qui il digitale ha sviluppato strumenti che rispondono a un’esigenza concreta. Ossia quella di poter chiedere aiuto in silenzio, senza telefonate che possano essere intercettate dal maltrattante.

    #NonPossoParlare

    Sviluppato dall’Associazione Save the Woman in collaborazione con SPX Lab, Dotvocal e diversi centri antiviolenza liguri, #NonPossoParlare è un chatbot pensato per le donne che vivono con un maltrattante.

    Funziona su smartphone, tablet o computer, simula una conversazione naturale con un operatore di centro antiviolenza, ed è disponibile 24 ore su 24, 7 giorni su 7. Soprattutto, non lascia tracce sul dispositivo.

    Il sistema è stato sviluppato grazie all’esperienza diretta delle operatrici dei centri antiviolenza, che hanno “istruito” l’intelligenza artificiale sulle domande più frequenti delle donne che chiedono aiuto. La Città di Alessandria è stata il primo capoluogo di provincia in Italia ad adottarlo.

    Il 1522 diventa digitale

    Anche il numero antiviolenza e antistalking 1522, gestito dal Dipartimento per le pari opportunità, ha affiancato alla linea telefonica una chat sul sito e un’app dedicata.

    Durante il lockdown del 2020, i contatti via chat sono triplicati, passando da 829 a oltre 3.300 messaggi. Nel primo trimestre 2025 sono arrivate oltre 14.000 chiamate, ma il dato da tenere in considerazione è che il 75% delle vittime non ha poi sporto denuncia per paura delle reazioni dell’aggressore.

    Come spiega Arianna Gentili, responsabile 1522 di Differenza Donna: “Una chat che non devo scaricare e che posso aprire e chiudere senza lasciare traccia va oltre la paura di essere rintracciate. L’anonimato aiuta a scardinare il pregiudizio che andare in un centro antiviolenza equivalga a sporgere denuncia.”

    Mama Chat e YouPol

    Mama Chat è il primo sportello europeo ad offrire assistenza psicologica online tramite chat gratuita e anonima, con psicologhe volontarie pronte all’ascolto.

    YouPol, l’app della Polizia di Stato nata nel 2017 per contrastare bullismo e spaccio, ha aggiunto durante la pandemia la possibilità di segnalare violenza domestica.

    Il caso spagnolo VioGén: 17 anni di valutazione del rischio

    Guardando oltre l’Italia, il sistema più longevo e strutturato è VioGén, il Gender Violence Monitoring System lanciato nel 2007 dal Ministero degli Interni spagnolo.

    Il sistema valuta il grado di rischio delle donne che hanno denunciato violenza domestica, assegnando un punteggio che va da “trascurabile” a “estremo” e determinando l’intensità degli interventi di protezione.

    Secondo le autorità spagnole, VioGén ha contribuito a una riduzione del 25% delle aggressioni.

    Ma non è infallibile: un’inchiesta del New York Times ha riportato che su 98 casi di omicidio successivi a violenza domestica, 55 vittime erano state valutate come a rischio trascurabile o basso. Occorre quindi ricordare, ancora una volta, che l’AI può supportare il lavoro umano, ma non sostituirlo del tutto.

    Il fronte della violenza digitale: deepfake, revenge porn e la risposta tecnologica

    Se la tecnologia può essere alleata, può essere anche arma. I deepfake pornografici, le immagini manipolate con AI, i siti di “nudify” che spogliano virtualmente qualsiasi donna a partire da una foto. Sono fenomeni in crescita esponenziale che colpiscono soprattutto donne e ragazze e di recente ne sono stati scoperti diversi.

    In Italia, la legge 132/2025 sull’intelligenza artificiale, in vigore dal 10 ottobre, ha introdotto il reato di diffusione illecita di contenuti generati o alterati con sistemi di AI (art. 612-quater del Codice penale).

    È un passo avanti, ma come osserva Matteo Flora, presidente di PermessoNegato: “Il problema non è tecnologico ma culturale.”

    PermessoNegato: 3,5 milioni di contenuti rimossi dal 2019

    L’associazione PermessoNegato, nata nel 2019, è diventata una delle principali realtà europee nel contrasto alla diffusione non consensuale di materiale intimo.

    L’associazione ad oggi ha gestito oltre 5.000 casi, di cui 2.500 solo nell’ultimo anno, per un totale di 3,5 milioni di contenuti rimossi dal web. PermessoNegato offre supporto tecnologico gratuito per l’identificazione, la segnalazione e la rimozione dei contenuti dalle piattaforme online.

    Il progetto europeo DeStalk

    A livello europeo, il progetto DeStalk ha riunito partner come European Network for the Work with Perpetrators, Kaspersky, Una Casa per l’Uomo di Treviso e Regione Veneto per formare operatrici dei centri antiviolenza sulla violenza digitale.

    I dati di Kaspersky parlano di 611 persone spiate o controllate senza consenso solo in Italia nel 2021 tramite stalkerware, con l’Italia al secondo posto in Europa dopo la Germania.

    La comunicazione che ribalta la narrativa: Una Nessuna Centomila e l’AI “buona”

    La Fondazione Una Nessuna Centomila ha lanciato per il 2025 la campagna “La violenza virtuale è reale“, che usa per la prima volta l’intelligenza artificiale in modo creativo: una donna generata dall’AI per mostrare che “Questa donna non esiste, ma la violenza che subisce sì”.

    È un ribaltamento intelligente. In un momento in cui l’AI viene usata per creare deepfake e sessualizzare le donne senza consenso, la campagna trasforma la stessa tecnologia in uno strumento di denuncia.

    La campagna mira a veicolare il messaggio che se si può inventare, manipolare e sessualizzare un’immagine con un click, allora è necessario prendersi cura del linguaggio e degli sguardi, non dei corpi.

    Oltre i confini: dall’Africa agli Stati Uniti

    Il fenomeno è globale e le risposte si moltiplicano.

    In Sudafrica, dove il tasso di femminicidi è cinque volte superiore alla media mondiale, l’imprenditrice Leonora Tima ha sviluppato Grit (Gender Rights in Tech), una delle prime app gratuite basate sull’AI per affrontare la violenza di genere, creata interamente da sviluppatori africani. Include un pulsante d’emergenza, una cassaforte digitale per conservare prove, e un chatbot chiamato Zuzi che offre ascolto e orientamento ai servizi.

    Negli Stati Uniti, il Take It Down Act firmato nel maggio 2025 impone alle piattaforme online di rimuovere entro 48 ore immagini intime non consensuali, incluse quelle generate dall’AI.

    In Europa, la Direttiva 2024/1385 introduce un quadro giuridico comune contro la violenza sulle donne, mentre il Digital Service Act impone obblighi più stringenti alle piattaforme sulla rimozione di contenuti illegali.

    I numeri italiani: uno scenario che non migliora

    Mentre la tecnologia avanza, i numeri della violenza in Italia restano drammatici.

    Secondo l’Osservatorio di Non Una di Meno, al 22 novembre 2025 sono stati registrati 77 femminicidi nel 2025. L’Istat ricorda che circa 6,4 milioni di donne italiane tra i 16 e i 75 anni (il 31,9% della popolazione femminile in quella fascia d’età) ha subito almeno una violenza fisica o sessuale nella vita.

    Gli autori della violenza sono italiani in 3 casi su 4, il 47,8% ha un lavoro stabile, e nella quasi totalità dei casi sono partner, ex partner o familiari.

    Nel 2024 sono attive 60 case rifugio, in calo rispetto al 2023 a causa dell’instabilità dei finanziamenti.

    Oltre la tecnologia, serve un cambiamento culturale

    La tecnologia, da sola, non basta. Lo dicono tutti gli esperti che sono stati interpellati: l’AI può supportare, ma non sostituire la relazione di cura.

    Può identificare pattern, segnalare rischi, rimuovere contenuti dannosi, offrire un primo ascolto anonimo. Ma la violenza di genere resta “un problema strutturale nella nostra società“, come ricorda Giulia Minoli, presidente di Una Nessuna Centomila, “ed è necessario avere un approccio sistemico e costruire un’alleanza con tutti i mondi possibili“.

    La psicoterapeuta Gloriana Rangone, commentando il fenomeno dei deepfake, lo dice con chiarezza: “La tecnologia amplifica ciò che già esiste. Se una cultura è violenta, sessista, intrisa di disuguaglianza, l’IA non fa che renderla più visibile e più potente. La responsabilità resta nostra: di come educhiamo, di quali modelli di relazione trasmettiamo, di come trattiamo il corpo e il consenso.

    In questo 25 novembre 2025, la sfida è doppia. Usare ogni strumento tecnologico disponibile per proteggere le donne, e al tempo stesso lavorare su quel cambiamento culturale profondo senza il quale nessun algoritmo potrà mai essere sufficiente.

    La tecnologia può riconoscere i segnali d’allarme quando c’è ancora tempo per intervenire. Ma spetta a noi decidere in che direzione vogliamo andare.

    Risorse utili

    1522 – Numero antiviolenza e antistalking (attivo 24/7, anche via chat e app)

    PermessoNegato.it – Supporto gratuito per vittime di revenge porn e violenza online

    D.i.Re – Donne in Rete contro la violenza – Rete nazionale dei centri antiviolenza

    Mama Chat – Sportello online gratuito con psicologhe volontarie

    YouPol – App della Polizia di Stato per segnalazioni

    Save the Woman / #NonPossoParlare – Chatbot silenzioso per donne in difficoltà

  • Taylor Swift e il suo appoggio a Kamala Harris su Instagram

    Taylor Swift e il suo appoggio a Kamala Harris su Instagram

    Taylor Swift annuncia il suo supporto a Kamala Harris su Instagram e condanna l’uso dell’intelligenza artificiale da parte di Trump per diffondere disinformazione elettorale. Non è la prima volta per Taylor Swift, ma evidenzia come l’uso delle piattaforme digitali da parte di star globali possa influenza l’opinione pubblica.

    Era l’endorsement che tutti attendevano, ed è arrivato. Alla fine del primo dibattito televisivo tra l’ex presidente Usa, Donald Trump, e la vicepresidente americana, Kamala Harris, Taylor Swift ha pubblicato su Instagram il suo endorsement.

    Ma oltre al suo appoggio per la candidata del partito democratico, Taylor Swift si è soffermata sull’intelligenza artificiale usata dai sostenitori di Trump per farla apparire come sostenitrice del tycoon.

    Il messaggio di Taylor Swift su Instagram

    “Riserverò il mio voto per Kamala Harris e Tim Walz nelle elezioni presidenziali del 2024” – ha scritto Taylor Swift sul suo post su Instagram -. “Voto per @kamalaharris perché lotta per i diritti e perché credo che ci sia bisogno di un guerriero che li difenda. Penso che sia una leader dotata e dalla mano ferma e credo che possiamo ottenere molto di più in questo paese se siamo guidati dalla calma e non dal caos. Sono rimasta così rincuorata e colpita dalla sua scelta del compagno di corsa @timwalz, che da decenni difende i diritti LGBTQ+, la fecondazione in vitro e il diritto di una donna al proprio corpo”.

    Taylor Swift supporto kamala harris instagram franz russo

    Questo il suo messaggio dove ha spiegato il perché del suo appoggio alla Harris.

    La condanna della IA da parte di Taylor Swift

    E poi c’è il passaggio sull’intelligenza artificiale.

    “Recentemente mi è stato comunicato che la ‘me’ realizzata con la IA che appoggiava falsamente la corsa presidenziale di Donald Trump è stata pubblicata sul suo sito. Ha davvero evocato le mie paure sull’intelligenza artificiale e i pericoli legati alla diffusione di disinformazione. Mi ha portato alla conclusione che devo essere molto trasparente riguardo ai miei reali piani per queste elezioni come elettore. Il modo più semplice per combattere la disinformazione è dire la verità”.

     

    Visualizza questo post su Instagram

     

    Un post condiviso da Taylor Swift (@taylorswift)

    Il riferimento è a ciò che è successo ad agosto scorso. Proprio Donald Trump, sulla sua piattaforma Truth, aveva pubblicato una serie di immagini realizzate con la IA per dimostrare l’appoggio della star alla campagna per la sua rielezione.

    In una di queste si vede uno Zio Sam con il testo che recita “Taylor vuole che TU voti per Donald Trump”. E la risposta scritta da Trump: “Accetto!”.

    Le stesse immagini erano state poi condivise su X, piattaforma di Elon Musk, etichettate come “satira”.

    L’uso del deepfake per diffondere disinformazione

    Il riferimento da parte di Taylor Swift all’uso della IA per veicolare messaggi falsi è assolutamente condivisibile.

    Sappiamo bene come l’evoluzione degli strumenti di IA generativa da questo punto di vista possono creare contenuti falsi in grado di manipolare l’opinione pubblica. Questo accade perché spesso si incontra notevole difficoltà nel distinguere ciò che è vero da ciò che è falso.

    Per non parlare dell’uso del deepfake. Ossia di immagini o video manipolati appositamente che mostrano persone che fanno o dicono cose che in realtà non hanno fatto o detto. È opinione diffusa tra gli esperti che i contenuti realizzati con la tecnica del deepfake possano influenzare come, o persino se, le persone voteranno prima delle elezioni presidenziali di novembre.

    Ora, l’appoggio di Taylor Swift, pubblicato su Instagram, fa giustamente notizia. Stiamo parlando di una star globale che sulla piattaforma di Meta vanta 283 milioni di follower.

    Si tratta di un esempio di utilizzo strategico delle piattaforme digitali per veicolare un messaggio che riguarda la vita di tutti i cittadini americani, che siano connessi o meno. Un messaggio che supera i confini digitali per arrivare a toccare la vita di tutti gli americani.

    La visibilità di una celebrità come Swift, amplificata dalle piattaforme digitali, può influenzare la conversazione pubblica e le decisioni elettorali. Riuscendo a coinvolgere anche chi non ha un account su Instagram, ma vive le conseguenze delle elezioni.

    La potenza di un canale diretto come Instagram

    Utilizzando un canale così diretto come Instagram, Taylor Swift ha potuto raggiungere rapidamente un vasto pubblico, amplificando il suo messaggio politico.

    Inoltre, il formato visivo e personale di Instagram, con il post accompagnato da un’immagine intima con il suo gatto, ha reso il suo endorsement molto più autentico e genuino.

    La firma in calce “Childless Cat Lady” è un riferimento allo sprezzante giudizio di quello che sarebbe poi diventato il candidato vice presidente di Donald Trump, J.D. Vance.

    Infatti una intervista alla rete americana Fox News del 2021, con Tucker Carlson, dichiarava che gli Stati Uniti erano governati da “un gruppo di gattare senza figli che sono infelici per le loro vite e per le scelte che hanno fatto e quindi vogliono rendere infelice anche il resto del Paese“.

    Taylor Swift non è nuova a usare le piattaforme digitali per diffondere messaggi di grande impatto politico.

    In passato, altre celebrità come Oprah Winfrey nel 2018, a sostegno di Stacey Abrams, hanno utilizzato le piattaforme digitali per mobilitare l’elettorato, dimostrando come il potere di una star possa estendersi oltre i confini della rete e influenzare il dibattito politico reale.

    Questo endorsement su Instagram è solo l’ultimo esempio di come i social media siano diventati, nel tempo, strumenti cruciali per le campagne elettorali come quelle presidenziali Usa.

     

     

     

     

Contatti