L’ufficio del procuratore della città di San Francisco sta facendo causa a 16 dei siti web “che spogliano le donne” basati sull’intelligenza artificiale più visitati, spesso utilizzati per creare deepfake di donne e ragazze senza il loro consenso. La causa storica , annunciata in una conferenza stampa dal procuratore della città David Chiu , afferma che i siti web presi di mira sono stati visitati collettivamente oltre 200 milioni di volte solo nei primi sei mesi del 2024.
I siti web incriminati consentono agli utenti di caricare immagini di persone reali, completamente vestite, che vengono poi “svestite” digitalmente con strumenti di intelligenza artificiale che simulano la nudità. Uno di questi siti web, che non è stato identificato nella denuncia, pubblicizzerebbe: “Immaginate di perdere tempo a portarla fuori per un appuntamento, quando potete semplicemente usare [il sito web censurato] per ottenere le sue foto di nudo”.
Gli operatori del sito web sono accusati di aver violato le leggi statali e federali che vietano la pornografia di vendetta, la pornografia deepfake e la pornografia infantile, insieme alla legge sulla concorrenza sleale della California perché “il danno che causano ai consumatori supera di gran lunga qualsiasi beneficio associato a tali pratiche”, secondo la denuncia depositata. La causa chiede sanzioni civili, oltre a mettere offline i siti web e impedire in modo permanente ai loro fornitori di creare future pornografia deepfake.
La denuncia arriva in un momento in cui si sta verificando una crescente attenzione sulla creazione e la diffusione di nudi non consensuali, in gran parte guidata dai progressi nell’intelligenza artificiale generativa, che ha portato a crescenti segnalazioni di “sextortion”. Celebrità famose come Taylor Swift sono state vittime di deepfake sessualmente espliciti e scolari in tutto il paese sono stati espulsi o arrestati per aver fatto circolare foto di nudo dei loro compagni di classe generate dall’intelligenza artificiale .