Microsoft sta prendendo provvedimenti per evitare che gli utenti possano generare immagini sessualmente esplicite attraverso l’intelligenza artificiale. Taylor Swift e altre celebrità, dopo 404 Media ha scoperto che le foto virali della cantante sono state create utilizzando Designeruno strumento che consente di generare immagini mediante una breve descrizione testuale.
In particolare, il media ha scoperto che le immagini di Taylor Swift prodotte dall’IA provenivano da un forum di 4chan e da un canale Telegram dove gli utenti generavano foto esplicite utilizzando Designer, sviluppato da Microsoft. 404 Media afferma di aver inviato una segnalazione all’azienda e che Microsoft ha risposto sostenendo che che sta “prendendo le misure appropriate” per fermare questa tendenza.
Microsoft ha poi confermato a 404 Media di non è stato possibile verificare se le immagini di Taylor Swift generate dall’intelligenza artificiale che sono diventate virali su Twitter provengono da Designer. L’azienda, tuttavia, ha limitato il suo strumento per impedire la creazione di tali immagini, impedendo l’uso di parole chiave esplicite.
Tuttavia, gli utenti del forum, hanno trovato un modo per continuare a produrre immagini sconvolgenti della cantante. e di altre celebrità: semplicemente sbagliando il nome o creando una descrizione che non riportava un termine sessuale, ma era suggestiva. Secondo la fonte, l’azienda ha limitato anche questo aspetto. La fonte sostiene che sul canale Telegram, dove venivano condivise le immagini di Taylor Swift, ora ci sono solo messaggi che evidenziano che l’IA crea solo immagini generiche.
Anche Twitter ha dato un giro di vite alle immagini di Taylor Swift generate dall’IA
Microsoft non è l’unica ad aver preso provvedimenti per evitare che immagini esplicite come quelle di Taylor Swift vengano nuovamente condivise. Twitter (X) ha inoltre limitato alcune ricerche sulla piattaforma per evitare che gli utenti trovino le deepfakes e condividerli in massa. Si tratta comunque di una misura temporanea, anche se non è chiaro quando il motore di ricerca verrà riattivato per Taylor Swift.
Naturalmente, la piattaforma ha anche rimosso tutte le immagini virali della cantante e di altre celebrità.
Allora, 404 Media sostiene che anche se le foto di Taylor Swift create dall’intelligenza artificiale sono scomparse e le aziende stanno prendendo seri provvedimenti, gli utenti continuano a produrre foto esplicite di celebrità utilizzando altri strumenti di intelligenza artificiale e a condividerle tramite il canale Telegram. Sebbene il media non abbia rivelato il nome, osserva che eIl canale ha migliaia di membri e continua a essere attivo.