Apple avrebbe avvertito in privato la società di Elon Musk, xAI, nel mese di gennaio, minacciando di rimuovere l’app Grok dall’App Store a meno che l’azienda non ponesse fine alla produzione di nude e deepfake sessualizzati tramite il chatbot. Lo riporta NBC News, citando una lettera inviata da Apple a senatori statunitensi e ottenuta dalla testata.
La vicenda è emersa dopo che, all’inizio dell’anno, le capacità di Grok sono state oggetto di critiche: su X sarebbero state condivise immagini sessualizzate non consensuali di donne e bambini generate dall’app, in molti casi basate su foto di persone reali.
Secondo quanto indicato nella lettera, Apple avrebbe individuato sia X sia Grok in violazione delle linee guida dell’App Store e avrebbe chiesto agli sviluppatori di presentare un piano di moderazione dei contenuti. Apple avrebbe inoltre respinto una prima soluzione proposta da xAI, sostenendo che “le modifiche non andavano abbastanza lontano”, e avrebbe richiesto ulteriori cambiamenti o la rimozione dell’app. In seguito, dopo ulteriori confronti, Apple avrebbe ritenuto che una nuova versione dell’app fosse migliorata a sufficienza da poter essere approvata.
La divulgazione sarebbe stata sollecitata da una lettera inviata a gennaio dai senatori Ron Wyden, Ben Ray Luján ed Edward Markey, che chiedevano ad Apple e Google di rimuovere entrambe le app, sostenendo che le immagini prodotte violerebbero le regole dell’App Store contro contenuti offensivi, sessuali ed exploitative.
Dopo la pubblicazione del report di NBC News, X ha pubblicato una dichiarazione in cui afferma di vietare la generazione di deepfake espliciti non consensuali e l’uso degli strumenti per “spogliare” persone reali. Nella nota, xAI sostiene di avere salvaguardie “estese”, tra cui monitoraggio continuo dell’uso pubblico, analisi dei tentativi di elusione in tempo reale, aggiornamenti frequenti del modello e filtri dei prompt.
Pur risultando diminuita la quantità di deepfake sessualizzati creati da Grok e pubblicati su X, NBC News riferisce che l’app sarebbe ancora in grado di generare immagini simili, con alcuni utenti che avrebbero modificato le proprie richieste per aggirare le protezioni.