Una lettera di Apple, inviata a tre senatori Usa, ha rivelato che più volte gli aggiornamenti dell’app Grok di xAI furono respinti, arrivando a minacciare la rimozione dall’App Store.
Certamente ricorderete quando tra la fine di dicembre 2025 e gennaio di quest’anno esplose lo scandalo Grok, l’app di xAI. Parliamo sempre del raggio di azione di Elon Musk. Ricorderete che quell’app permetteva a tutti, attraverso un testo condiviso su X, quindi in pubblico, di modificare immagini. Una funzionalità che ha finito per generare un fenomeno di deepfake a sfondo sessuale a livello globale.
Ebbene, a distanza di tre mesi se ne torna a parlare perché NBC, in via esclusiva, in relazione alla lettera che tre senatori Usa avevano indirizzato a Apple e Google, chiedendo di rimuovere Grok dai rispettivi app market, ha avuto modo di visualizzare cosa Apple aveva risposto ai senatori.
In pratica, il 9 gennaio 2026, i senatori Ron Wyden, Ben Ray Luján ed Edward Markey avevano scritto a Tim Cook e Sundar Pichai chiedendo la rimozione immediata delle app X e Grok dagli store.
I senatori accusavano Grok di generare immagini sessuali non consensuali di donne e bambini, e Musk di aver incoraggiato il fenomeno reagendo con emoji di risate. La scadenza era fissata al 23 gennaio per una risposta scritta.
E in effetti, senza che nessuno ne sapesse nulla, e si è scoperto grazie alla NBC, Cupertino aveva risposto.
Il passaggio chiave della lettera recita: «Apple ha esaminato le successive modifiche degli sviluppatori e ha determinato che X aveva sostanzialmente risolto le proprie violazioni, ma l’app Grok rimaneva non conforme. Di conseguenza, abbiamo respinto la modifiche di Grok e notificato allo sviluppatore che sarebbero state necessarie ulteriori modifiche per rimediare alla violazione, oppure l’app avrebbe potuto essere rimossa dall’App Store.».
In buona sostanza, Apple aveva bocciato i primi tentativi di xAI di sistemare il problema, giudicandoli però insufficienti. Solo dopo ulteriori modifiche ha approvato la versione aggiornata, definendola «sostanzialmente migliorata». Ma la minaccia di rimozione era stata formalizzata.

Come si arrivò a quel punto
Per chi ha seguito questa vicenda su InTime Blog, il contesto è abbastanza chiaro.
Come ricordato in apertura, tra il 25 dicembre 2025 e l’8 gennaio 2026, Grok ha generato circa 4,6 milioni di immagini, di cui circa 3 milioni sessualizzate e circa 23.000 raffiguranti minori.
Come avevo analizzato nell’articolo sulle migliaia di immagini di nudo generate da Grok, un’inchiesta di Bloomberg aveva quantificato il fenomeno: 6.700 immagini sessualizzate all’ora, 84 volte più dei principali siti di deepfake messi insieme.
Ricorderete il post di Musk del 31 dicembre 2025, un’immagine di sé stesso in bikini generata da Grok, che aveva causato un’impennata del 1.400% nella generazione di contenuti simili.
Come sottolineato più volte, in questa vicenda scatenata dalla funzionalità libera permettendo a chiunque di modificare immagini, le vittime non avevano strumenti per difendersi: donne che segnalavano immagini sessualizzate delle proprie foto a X non ricevevano risposta, o ricevevano notifiche che «non vi erano violazioni delle regole».
X ha poi limitato la generazione di immagini agli abbonati paganti. Ma come avevo scritto nell’analisi sulla spunta blu che non rende sicura la generazione di immagini, spostare la funzionalità dietro un paywall non è una misura di sicurezza.
Lo dimostrava il fatto che l’utente che aveva chiesto a Grok di manipolare l’immagine della donna uccisa a Minneapolis era un abbonato verificato. E come avevo ricordato nell’articolo sui numeri degli abbonamenti di X, la limitazione agli abbonati ha finito per monetizzare lo scandalo stesso.
Lo scandalo Grok si è esteso ovunque
Il 26 gennaio l’Unione Europea aveva aperto un’indagine formale DSA contro X per le immagini generate da Grok, con sanzioni potenziali fino al 6% del fatturato globale.
Il DPC irlandese ha avviato un’indagine GDPR, con potenziali sanzioni fino al 4% del fatturato. Il Regno Unito ha varato una nuova legge con pene detentive fino a due anni per chi genera deepfake intimi non consensuali.
E poi c’è la Francia. Il 3 febbraio la procura di Parigi, insieme a Europol, ha perquisito gli uffici parigini di X. Musk e l’ex CEO Linda Yaccarino sono stati convocati per un’audizione fissata per il 20 aprile, vale a dire tra pochi giorni.
Negli Stati Uniti, il TAKE IT DOWN Act, firmato nel maggio 2025, entrerà in vigore a maggio 2026 rendendo reato federale la pubblicazione di immagini intime non consensuali generate da IA.
Il DEFIANCE Act, approvato dal Senato il 13 gennaio citando esplicitamente lo scandalo Grok, consente alle vittime di citare in giudizio i creatori per danni fino a 150.000 dollari. E sono già in corso almeno tre cause legali contro xAI.
Cosa dicono il TAKE IT DOWN Act e il DEFIANCE Act
Il TAKE IT DOWN Act, firmato il 19 maggio 2025, è la prima legge federale Usa a criminalizzare la diffusione di immagini intime non consensuali, siano esse reali o generate dall’IA. La norma impone alle piattaforme l’obbligo di rimuovere tali contenuti entro 48 ore dalla segnalazione, prevedendo sanzioni penali e multe per chi pubblica o minaccia di diffondere tali immagini.
Complementare a questo è il DEFIANCE Act, approvato dal Senato nel gennaio 2026, che colma un vuoto fondamentale: permette alle vittime di citare in giudizio civile i creatori di deepfake sessualizzati, richiedendo danni economici significativi.
Per quanto riguarda l’operatività:
- Il TAKE IT DOWN Act è tecnicamente in vigore dal giorno della firma, ma le piattaforme hanno tempo fino al 19 maggio 2026 per implementare procedure di segnalazione chiare e visibili.
- Il DEFIANCE Act, dopo il via libera del Senato di metà gennaio 2026, deve ora completare l’iter alla Camera per diventare pienamente esecutivo.
Due norme Usa che permetteranno di passare da una fase di “far west” digitale a una in cui la responsabilità civile e penale inizia a pesare anche nel mondo dei falsi artificiali.
La generazione di immagini con sessualizzare con Grok continua
Un secondo report di NBC documenta che Grok continua a generare immagini sessualizzate non consensuali, seppur in volumi ridotti.
Gli utenti hanno sviluppato tecniche di aggiramento: chiedono a Grok di «abbinare la posa» di una foto di celebrità a una figura stilizzata in posizione suggestiva, o di «scambiare gli abiti» tra due foto. I video animati rappresentano una nuova frontiera di abuso.
La risposta di Musk è stata la solita, ossia quella di provare a minimizzare e ad attaccare. In risposta ai provvedimenti del governo Uk, ha definito il governo di Starmer «fascista», ha sfidato pubblicamente gli utenti a «provare a violare la moderazione di Grok» ricevendo immediatamente risposte con contenuti nudi, e la risposta ufficiale di xAI ai giornalisti è stata «Legacy Media Lies».
Il paradosso di questa vicenda è che la stessa reazione di Musk ha finito per amplificare la crisi, invece di placarla.
Cosa potrebbe succedere adesso
La rivelazione della lettera di Apple dimostra che i gatekeeper degli store hanno utilizzato la leva della rimozione come strumento di pressione, anche se non l’hanno esercitata fino in fondo.
Apple ha anche rimosso 28 app «nudify» dal proprio store dopo che il Tech Transparency Project ne aveva identificate 47 disponibili su iOS, complessivamente scaricate 705 milioni di volte.
Ma il vero banco, dicevamo, di prova sarà nelle prossime settimane.
La scelta di Musk di posizionare Grok come un’intelligenza artificiale «spicy», con meno restrizioni, si scontra ora con un ecosistema normativo globale che non concede più sconti.
L’integrazione di un generatore di immagini IA con misure di controllo minime all’interno di una piattaforma social da centinaia di milioni di utenti ha creato un rischio enorme. Conosciuto del resto.
Un rischio tale per cui nessun intervento tardivo di moderazione può pienamente correggere.
Ed è questo il punto in cui ci troviamo oggi. La lettera di risposta di Apple ci dice che il rischio c’è ed è conosciuto anche ai grandi gatekeeper. E le possibilità che la prossima volta si possa scrivere un esito diverso non è del tutto remota.
Intanto, staremo a vedere cosa emergerà dall’audizione di Musk e della Yaccarino a Parigi.





















