Deepfake: le domande più frequenti

Un deepfake è un tipo di media sintetico creato utilizzando l’intelligenza artificiale (IA) per sovrapporre volti o voci di persone su immagini, video o audio esistenti in modo realistico. La tecnologia di base spesso utilizza reti neurali profonde, da cui deriva il nome “deepfake”. Per rispondere in modo ancora più semplice  i deepfake sono “alterazioni digitali della realtà” compiute dall’intelligenza artificiale che è in grado di elaborare foto/video/audio reali, modificandoli in modo da sembrare comunque autentici, veri, anche se sono stati manipolati. Il termine “deepfake” è una contrazione e nasce dalla combinazione delle parole “fake” (falso) e “deep learning” (apprendimento approfondito). Quindi, unendo i due termini, un apprendimento approfondito, per la manipolazione di dati e informazioni, al fine di generare una nuova realtà.

Questa tecnologia viene utilizzata per molteplici scopi inappropriati:

• per la diffusione di false notizie : sostituendo il volto di una persona in un video con quello di un’altra persona, simulando che il soggetto stia dicendo o facendo qualcosa che non ha mai detto o fatto.  Rientrano in questo ambito i video falsi di celebrità che dicono o fanno cose imbarazzanti o offensive ed i video falsi di politici che diffondono propagande non veritiere. I deepfake possono riguardare sia politici che leader di opinione, con l’obiettivo di manipolare la percezione del pubblico. Ad esempio, video deepfake potrebbero essere diffusi tra gli elettori che sostengono un politico, mostrandolo in situazioni compromettenti o a commettere atti discutibili al fine di danneggiarne la reputazione e influenzare le opinioni degli elettori o le scelte di voto. Questa pratica può purtroppo contribuire alla diffusione di notizie false e alla disinformazione.
• per truffare le persone : creando finti video di personaggi famosi che ti invitano ad acquistare un prodotto o un servizio o fare un investimento vantaggioso che si rivelerà una truffa.
• per diffamare le persone : proponendo falsi contenuti di qualsiasi genere come ad esempio nel revenge porn dove il fidanzato o la fidanzata lasciati si vendicano pubblicando immagini o video finti e compromettenti dell’ex partner. Si aggiunga come altro esempio quello di far ricadere la responsabilità di parole mai dette a qualcuno che è estraneo ad uno specifico fatto.
• per atti di cyberbullismo : realizzando video manipolati con lo scopo di umiliare, deridere o diffamare le persone coinvolte.
• per atti estorsivi : portando avanti ricatti sessuali. I deepfake per scopi estorsivi sono in costante aumento, con l’intento di richiedere pagamenti in cambio della non divulgazione o della rimozione di contenuti compromettenti. Approfondimenti qui : “Rimozione Deepfake: materiale a sfondo sessuale” presso il nostro studio.
• per attività telematiche illecite – cybercrime : perseguendo diverse tipologie di cybercrime. Attraverso l’uso di volti e voci artefatti è possibile eludere i sistemi di sicurezza che si basano su dati biometrici facciali e vocali. I criminali informatici possono creare video e messaggi audio deepfake per indurre colleghi, amici e parenti di una vittima a fare qualcosa o ad interagire con link dannosi o allegati che mettono a rischio i loro dispositivi e sistemi. Inoltre, poiché molti sistemi digitali utilizzano l’autenticazione biometrica, esiste il rischio che video e audio deepfake possano essere sfruttati per manipolare tali sistemi e ottenere accesso non autorizzato a informazioni sensibili ( documenti personali salvati nel telefono o accessi agli account email o social ) o finanziarie ( accesso ai conti bancari ) contenute nel telefono di una persona.

I deepfake funzionano attraverso l’uso di reti neurali profonde, in particolare reti generative avversarie (GANs). Le GANs consistono in due reti: una generativa, che crea i falsi, e una discriminativa, che tenta di distinguere tra i falsi e i veri. La rete generativa impara a creare contenuti sempre più realistici fino a quando la rete discriminativa non riesce più a riconoscerli come falsi.

Le tipologie di deepfake possono variare in base alla tecnica utilizzata e agli obiettivi del creatore. Tuttavia, possiamo identificare alcune categorie principali:

1. Deepfake video facciali: Questi deepfake sostituiscono il volto di una persona in un video con quello di un’altra persona, utilizzando algoritmi di apprendimento profondo per adattare i movimenti facciali e le espressioni alla nuova faccia. Questi possono essere utilizzati per creare video falsi di politici, celebrità o persone comuni.

2. Deepfake audio: Questi deepfake manipolano registrazioni audio per far sembrare che una persona stia dicendo qualcosa che non ha mai detto. Questa tecnica può essere utilizzata per creare discorsi falsi o per modificare il tono e il contenuto di una conversazione.

3. Deepfake immagini: Questi deepfake alterano le immagini per creare ritratti falsi o per modificare l’aspetto di una persona in una foto. Questa tecnica può essere utilizzata per creare immagini falsificate di persone o per alterare l’aspetto di una persona in una foto.

4. Deepfake video completi: Questi deepfake coinvolgono la creazione di video completi, comprese le azioni e le parole di una persona che non è reale o che esiste, ma che non ha mai svolto quelle azioni.

5. Deepfake testuali: Questi deepfake utilizzano l’IA per generare testi falsi o manipolati in modo da sembrare autentici. Questa tecnica può essere utilizzata per creare notizie false o per manipolare opinioni attraverso la diffusione di informazioni fuorvianti.

Queste sono solo alcune delle tipologie di deepfake esistenti, e la tecnologia continua a evolversi, portando potenzialmente a nuove forme di manipolazione mediatica.

Le applicazioni legittime dei deepfake includono la produzione cinematografica e televisiva (per effetti speciali o per riportare in vita attori deceduti), l’intrattenimento, la creazione di contenuti educativi e la sintesi vocale per persone con disabilità vocali. Inoltre, possono essere utilizzati per migliorare la realtà virtuale e aumentata.

1. Raccogliere Prove con valore legale

Documenta il deepfake e raccogli tutte le prove disponibili con valore legale. Consulta questa pagina https://falsoillegale.it/consulenze-legali-anti-deepfake/analisi-e-certificazione-deepfake/.

2. Identificare l’autore del falo

Se possibile procedere con l’identificazione dell’autore del deepfake o deepnude per una denuncia più efficace. Consulta questa pagina https://falsoillegale.it/consulenze-legali-anti-deepfake/identificazione-dellautore-del-falso-illegale/

3. Segnalare il Contenuto

Segnala il deepfake alle piattaforme online dove è stato pubblicato (social media, siti web, ecc.) ma solo dopo aver richiesto una certificazione con valore legale del deepfake perchè se il contenuto viene rimosso non avrai più una prova valida per la tua denuncia alla polizia postale. La maggior parte delle piattaforme ha procedure specifiche per la rimozione di contenuti falsi o dannosi. Noi di Falsoillegale.it ti aiutiamo a segnalare abusi, violazioni della privacy o contenuti inappropriati.

4. Consultare Falsoillegale.it

Il team di Falsoillegale.it può aiutarti a capire le tue opzioni legali, come inviare lettere di diffida, avviare procedimenti legali o denunciare l’episodio alle autorità competenti.

5. Informare le Autorità

Se il deepfake rappresenta una minaccia alla tua sicurezza o alla tua reputazione, oltre ai passaggi sopra indicati è fondamentale informare le autorità competenti. La polizia o altri organi di sicurezza possono avviare indagini e perseguire i responsabili. In alcuni paesi, la creazione e la diffusione di deepfake per scopi dannosi è un reato penale.

6. Prendere Precauzioni di Sicurezza

In fine rafforza la tua sicurezza online per prevenire futuri abusi. Questo può includere l’aggiornamento delle password, l’abilitazione dell’autenticazione a due fattori, e l’essere più attenti alle informazioni personali ( testi, immagini, video … ) che condividi online. Considera anche di limitare le impostazioni sulla privacy sui social media per rendere privati i tuoi account e ridurre il rischio di essere preso di mira nuovamente.

Proteggersi dai deepfake, sia come individuo che come azienda, richiede una combinazione di consapevolezza, strumenti tecnologici e pratiche preventive. Ecco alcune strategie:

Per individui:

1. Educazione e consapevolezza:

   • Informati su cosa sono i deepfake e su come funzionano. Conoscere i segni rivelatori di un video o audio manipolato può aiutarti a identificarli.
   • Rimani aggiornato sulle ultime tecnologie e strumenti di rilevamento dei deepfake.

2. Gestione della privacy online:

   • Limita la condivisione di immagini e video personali sui social media, poiché questi possono essere utilizzati per creare deepfake.
   • Utilizza impostazioni di privacy rigorose sui tuoi account online per controllare chi può vedere e accedere ai tuoi contenuti.

3. Verifica delle informazioni:

   • Se ricevi un video o un audio sospetto, cerca di verificare la fonte e confrontarlo con altre fonti affidabili prima di crederci o condividerlo.

4. Uso di software di rilevamento:

   • Esistono strumenti e applicazioni sviluppati per rilevare deepfake. Utilizzarli può aiutarti a identificare contenuti falsi.

Per aziende:

1. Formazione del personale:

   • Forma i dipendenti sulla natura e i rischi dei deepfake. Una forza lavoro consapevole è la prima linea di difesa contro le truffe e le manipolazioni.
   • Implementa protocolli per la verifica di video e audio ricevuti, specialmente in contesti sensibili come comunicazioni aziendali o conferenze virtuali.

2. Sicurezza informatica avanzata:

   • Investi in tecnologie di rilevamento dei deepfake e di autenticazione dei contenuti multimediali.
   • Proteggi i dati sensibili e le informazioni aziendali con crittografia e altre misure di sicurezza per evitare che vengano utilizzati per creare deepfake.

3. Monitoraggio dei social media:

   • Sorveglia i social media e altre piattaforme online per identificare potenziali deepfake che potrebbero danneggiare la reputazione aziendale.
   • Reagisci rapidamente per segnalare e rimuovere contenuti falsi.

4. Politiche di comunicazione trasparente:

   • Comunica in modo chiaro e tempestivo con il pubblico e i clienti per contrastare eventuali disinformazioni generate dai deepfake.
   • Crea una politica di risposta rapida per gestire eventuali crisi legate ai deepfake.

Adottando queste precauzioni, puoi ridurre significativamente il rischio di essere vittima di un deepfake e proteggere sia la tua immagine personale che la reputazione della tua azienda.

I rischi principali dei deepfake includono la diffamazione, la diffusione di disinformazione e fake news, il cyberbullismo, la manipolazione politica, le frodi finanziarie e l’abuso in contesti personali (come il revenge porn). La capacità di creare video falsi estremamente realistici può minare la fiducia nelle informazioni visive e audio.

Un deep fake può risultare pericoloso per diverse ragioni:

1. Disinformazione: I deep fake possono essere utilizzati per creare video falsi che mostrano persone che dicono o fanno cose mai accadute. Questo può essere usato per diffondere notizie false, manipolare l’opinione pubblica o danneggiare la reputazione di individui o organizzazioni.

2. Frode e truffe: I deep fake possono essere sfruttati per ingannare le persone in contesti finanziari o legali, ad esempio creando falsi video di persone autorevoli che richiedono trasferimenti di denaro o informazioni riservate.

3. Cyberbullismo e ricatti: Individui malintenzionati possono creare deep fake a contenuto compromettente per intimidire, ricattare o umiliare qualcuno, soprattutto sui social media.

4. Erosione della fiducia: L’aumento dei deep fake potrebbe portare a una generale sfiducia nei confronti dei contenuti multimediali, rendendo più difficile distinguere tra realtà e falsificazione. Questo può minare la credibilità delle prove video in contesti legali e giornalistici.

5. Impatto psicologico: Essere vittima di un deep fake può causare gravi danni emotivi e psicologici, soprattutto se il video è di natura sensibile o compromettente.

Riconoscere un deepfake può essere difficile. Per i deepfake fatti da persone poco esperte ci sono alcuni segnali a cui prestare attenzione, Ad esempio: anomalie nei movimenti degli occhi o delle labbra, ombre incoerenti, artefatti visivi come sfocature o bordi irregolari, e comportamenti innaturali. Per i deepfake creati con strumenti più professionali occorrono abilità e competenze che solo gli esperti del settore, come il team di Falsoillegale.it, è in grado di offrire.

esistono diversi strumenti e software open-source che permettono di creare deepfake, come FaceSwap, DeepFaceLab e Zao. Tuttavia, l’uso di tali strumenti solleva questioni etiche e legali significative, ed è importante utilizzarli in modo responsabile.

I deepfake possono essere pubblicati su una varietà di piattaforme online, inclusi:

1. Social media: Piattaforme come Facebook, X, Instagram, TikTok e altre sono spesso utilizzate per la condivisione di deepfakes, sia per scopi divertenti che per scopi dannosi.

2. Siti di video sharing: Piattaforme come YouTube, Vimeo, e Dailymotion possono ospitare contenuti deepfake, che possono essere caricati dagli utenti.

3. Forum e comunità online: Siti web e forum online dedicati alla condivisione di contenuti digitali, spesso ospitano contenuti deepfake, sia per scopi di intrattenimento che per scopi più discutibili.

4. Siti web dedicati: Alcuni siti web possono essere specificamente dedicati alla creazione e alla condivisione di deepfakes. Tuttavia, molti di questi siti sono stati oggetto di critiche e sono stati chiusi dagli stessi gestori a causa delle preoccupazioni riguardanti l’abuso della tecnologia.

5. Applicazioni di messaggistica: Le applicazioni di messaggistica istantanea come WhatsApp, Telegram e Signal possono essere utilizzate per condividere deepfake tramite messaggi privati o chat di gruppo.

È importante notare che molte piattaforme online hanno adottato politiche e strumenti per affrontare il problema dei deepfake e della disinformazione, comprese le politiche di utilizzo accettabile, gli algoritmi di rilevamento automatico dei contenuti manipolati e le opzioni per segnalare i contenuti sospetti. Tuttavia, la natura sempre mutevole della tecnologia e delle piattaforme online significa che i deepfake possono comunque essere diffusi e condivisi in vari contesti online.

Per proteggerti dai deepfake che non coinvolgono la tua persona, è importante:

• Verificare l’origine dei contenuti multimediali.
• Essere consapevoli delle tecnologie di manipolazione esistenti.
• Mantenere un alto livello di scetticismo riguardo a contenuti sensazionali.
• Seguire fonti di notizie affidabili.

Per proteggerti dai deepfake che potrebbero coinvolgere la tua persona :

• Non pubblicare sui social video o immagini nei quali il tuo viso è ben riconoscibile
• Non pubblicare sui social audio con la tua voce
• Rendere privati i tuoi account social

Le differenze principali tra DeepNude e Deepfake riguardano la loro applicazione e il tipo di media che manipolano:

1. Deepfake: Il termine “deepfake” è un concetto generale che si riferisce a qualsiasi tipo di media (video, audio, immagini, testo) manipolato o generato artificialmente utilizzando tecniche di intelligenza artificiale, come le reti neurali profonde. I deepfake possono essere utilizzati per sostituire il volto di una persona in un video, manipolare registrazioni audio per far sembrare che una persona dica qualcosa che non ha mai detto, alterare immagini per creare ritratti falsi, e così via. Sono spesso utilizzati per creare contenuti falsi o fuorvianti.

2. DeepNude: DeepNude è un’applicazione specifica di deep learning che è stata progettata per creare immagini false di nudità a partire da foto di persone vestite. L’app utilizzava algoritmi di intelligenza artificiale per rimuovere digitalmente i vestiti dalle foto, creando così immagini di nudità che sembravano realistiche. Tuttavia, a causa delle preoccupazioni riguardanti la privacy e il possibile abuso dell’applicazione per scopi dannosi come la creazione di immagini pornografiche non consensuali, gli sviluppatori hanno interrotto il supporto e la distribuzione di DeepNude. Sono comunque già nate alternative come “undress.app”, “nudify.online” e “soulgen.org” … e molte altre

In breve, mentre Deepfake è un termine generale che si riferisce a una vasta gamma di manipolazioni mediatiche create utilizzando l’intelligenza artificiale, DeepNude era un’applicazione specifica progettata per creare immagini false di nudità attraverso tecniche di deep learning. Il deepnude è una tecnologia che consente di manipolare immagini per “spogliare” virtualmente le persone, anche minori, e sovrapporle a corpi nudi o coinvolti in atti sessuali. Questa pratica inizialmente mirava a compromettere personaggi famosi, ma ora, con la diffusione sempre maggiore di tale software, coinvolge anche individui comuni. Ciò può portare a gravi conseguenze sociali e psicologiche, come nel caso del “revenge porn” in cui vengono diffuse immagini sessualmente esplicite online per scopi di ricatto o vendetta. L’uso di video deepnude, senza il consenso delle persone rappresentate, può alimentare il sexting, la pornografia illegale e persino reati come la pedopornografia.

La regolamentazione dei deepfake varia a seconda del paese. In molti luoghi, l’uso di deepfake per scopi fraudolenti, diffamatori o per la violazione della privacy è illegale. Alcuni stati degli USA, come la California, hanno leggi specifiche contro l’uso dei deepfake in contesti elettorali e di revenge porn. In europa vige l’AI Act 2024 : Aspetti della legge UE sull’intelligenza artificiale riguardanti i deepfake

La creazione e l’uso di un profilo fake possono costituire reato in diverse circostanze, a seconda delle intenzioni e delle conseguenze. Ecco alcune situazioni in cui un profilo fake può diventare illegale:

1. Frode e truffa

• Se un profilo fake viene utilizzato per ingannare qualcuno e ottenere denaro, beni o servizi in modo fraudolento, ciò costituisce reato di truffa. Ad esempio, fingere di essere un’altra persona per ottenere benefici economici è punibile dalla legge.

2. Diffamazione

• Creare un profilo fake per diffondere false informazioni o per danneggiare la reputazione di una persona o di un’azienda può configurare il reato di diffamazione. In Italia, la diffamazione è punibile con la multa o, nei casi più gravi, con la reclusione.

3. Sostituzione di persona

• Creare un profilo che imiti un’altra persona con l’intenzione di ingannare altri e farsi passare per quella persona può configurare il reato di sostituzione di persona. Questo è un reato previsto dal Codice Penale italiano e può comportare sanzioni penali.

4. Violazione della privacy

• Se un profilo fake viene utilizzato per raccogliere, pubblicare o diffondere informazioni personali e riservate di qualcun altro senza il suo consenso, può costituire una violazione della privacy, che è punibile dalla legge.

5. Cyberbullismo e molestie

• L’uso di profili fake per perseguitare, intimidire o molestare una persona, specialmente in maniera ripetuta, può configurare il reato di stalking o cyberbullismo, entrambi sanzionati penalmente.

6. Incitamento all’odio

• Se un profilo fake viene utilizzato per promuovere odio, discriminazione o violenza contro individui o gruppi basati su razza, religione, orientamento sessuale o altre caratteristiche, può configurare il reato di incitamento all’odio.

7. Violazione delle condizioni d’uso

• Anche se non sempre costituisce un reato penale, la creazione di un profilo fake può violare le condizioni d’uso delle piattaforme social, portando a sanzioni come la sospensione o la chiusura dell’account.

In generale, la gravità del reato dipende dall’uso specifico del profilo fake e dalle conseguenze delle azioni compiute tramite esso. Le persone che si trovano vittime di profili fake o che sospettano attività illegali dovrebbero contattare le autorità competenti o un legale per proteggere i propri diritti.

Identificare l’autore di un profilo fake può essere complesso, ma ci sono diverse tecniche e strumenti che possono aiutare a scoprire chi potrebbe esserne responsabile. Ecco alcuni suggerimenti e passi da seguire:

1. Analisi del Profilo

• Informazioni e Contenuti: Verifica le informazioni fornite nel profilo, come il nome, le foto e i dettagli di contatto. Spesso i profili fake hanno informazioni incomplete o incoerenti.
• Attività e Post: Controlla l’attività del profilo, inclusi i post e i commenti. I profili fake tendono a mostrare schemi di comportamento insoliti o a pubblicare contenuti ripetitivi e generici.

2. Verifica delle Immagini

• Ricerca per Immagine: Usa strumenti di ricerca inversa delle immagini come Google Immagini o TinEye per verificare se le foto utilizzate nel profilo sono state rubate da altre fonti.
• Metadati delle Immagini: Analizza i metadati delle immagini (se disponibili) per cercare informazioni sull’origine o sull’autore delle foto.

3. Controllo delle Connessioni e dei Follower

• Rete Sociale: Esamina le connessioni e i follower del profilo. I profili fake spesso hanno poche connessioni genuine o follower sospetti.
• Interazioni: Verifica l’interazione del profilo con altri utenti. Se il profilo sembra interagire solo con altre entità sospette, potrebbe essere un segnale di attività non autentica.

4. Rilevamento Tecnologico

• Strumenti di Rilevamento: Utilizza strumenti e software progettati per rilevare profili fake e attività sospette. Alcuni servizi offrono analisi avanzate per identificare schemi di comportamento anomali.
• Analisi dei Dati: Se hai accesso ai dati tecnici del profilo, come indirizzi IP o log di accesso, questi possono fornire indizi sull’origine del profilo.

5. Segnalazione e Collaborazione

• Segnala il Profilo: Se sospetti che un profilo sia fake, segnalalo alla piattaforma social. Le piattaforme hanno team dedicati alla verifica e alla gestione dei profili falsi.
• Collaborazione con le Autorità: Se il profilo fake è coinvolto in attività illecite o dannose, considera di coinvolgere le autorità competenti. Le forze dell’ordine possono utilizzare strumenti investigativi per rintracciare l’autore.

6. Controllo dei Dati di Registrazione

• Email e Numeri di Telefono: Se hai accesso a informazioni di registrazione come email o numeri di telefono, verifica se sono associati ad altre attività sospette.

7. Analisi del Linguaggio e dello Stile

• Stile di Scrittura: Analizza lo stile di scrittura e il linguaggio utilizzato nel profilo. Spesso i profili fake possono mostrare schemi di linguaggio non coerenti con quelli di utenti reali.

8. Consultazione con Esperti

• Specialisti di Sicurezza: In caso di attività particolarmente gravi o complesse, considera di consultare i nostri esperti di sicurezza informatica e consulenti legali specializzati in cybersicurezza che ti permetteranno di identificare un profilo falso.

Determinare l’identità dell’autore di un profilo fake può richiedere tempo e risorse, ma questi passaggi possono aiutarti a raccogliere prove e a comprendere meglio la situazione.

La creazione e la diffusione di deepfake che violano i diritti personali di un soggetto o vengono utilizzati per guadagni dolosi o criminali,  possono comportare una serie di reati, a seconda del contesto e delle circostanze specifiche. Parliamo in questi casi di intelligenza artificiale offensiva. Ecco alcuni dei reati che potrebbero essere commessi:

1. Violazione della privacy: Se un deepfake coinvolge l’uso non autorizzato di immagini o registrazioni audio di una persona senza il loro consenso, può costituire una violazione della privacy. Questo può essere particolarmente rilevante se il deepfake include contenuti sensibili o dannosi per la reputazione della persona coinvolta.

2. Diffamazione: La creazione e la diffusione di deepfake contenenti informazioni false o dannose su una persona possono costituire diffamazione. Questo può includere la diffusione di video o immagini falsi che danneggiano la reputazione o l’integrità di un individuo.

3. Falsificazione di prove: Se i deepfake vengono utilizzati per falsificare prove in un procedimento legale, ad esempio alterando registrazioni audio o video per influenzare il risultato di un processo, ciò potrebbe costituire un reato di falsificazione di prove.

4. Violazione dei diritti di proprietà intellettuale: Se un deepfake utilizza materiale protetto da copyright, come immagini o clip audio, senza il consenso del proprietario dei diritti, ciò potrebbe costituire una violazione dei diritti di proprietà intellettuale.

5. Stalking o molestie: La creazione e la diffusione di deepfake con l’intento di molestare, minacciare o intimidire una persona possono costituire stalking o molestie, a seconda delle leggi locali.

6. Violazione delle leggi sulla sicurezza informatica: Se i deepfake coinvolgono l’hacking o l’accesso non autorizzato a sistemi informatici o reti per ottenere dati o informazioni utilizzati nella manipolazione dei media, ciò potrebbe costituire una violazione delle leggi sulla sicurezza informatica.

7. Furto di identità causato dalla perdita di controllo della propria immagine. Il deepfake rappresenta una forma estremamente grave di furto di identità. Le vittime di queste manipolazioni non solo perdono il controllo sulla propria immagine, ma sono anche esposte alla distorsione dei propri pensieri e delle proprie idee, che vengono falsamente attribuiti attraverso comportamenti e discorsi manipolati nei video. Inoltre, le persone coinvolte nei deepfake potrebbero trovarsi erroneamente in ambienti o situazioni mai vissuti o che mai avrebbero scelto di frequentare, mettendole in situazioni imbarazzanti. Fondamentalmente, i deepfake sono capaci di creare scenari del tutto inventati, mettendo a rischio la privacy e la dignità delle persone coinvolte che non hanno mai autorizzato tali pubblicazioni.

8. Violenza sessuale e pornografia non consensuale: Se i deepfake coinvolgono la creazione o la diffusione di contenuti pornografici falsi o manipolati senza il consenso delle persone coinvolte, ciò potrebbe costituire un reato di violenza sessuale o pornografia non consensuale.

È importante notare che le leggi e le normative relative ai deepfake possono variare da giurisdizione a giurisdizione, e che il contesto specifico in cui vengono creati e diffusi i deepfake può influenzare i reati che possono essere coinvolti. Inoltre, la rapida evoluzione della tecnologia dei deepfake può rendere necessari continui aggiornamenti alle leggi esistenti per affrontare in modo efficace questa forma emergente di manipolazione mediatica. 

In italia il garante della privacy ed altre autorità di protezione dei dati personali possono intervenire per prevenire e sanzionare le violazioni della normativa in materia di protezione dei dati. Il materiale prodotto con la tecnica del deepfake è lesivo della reputazione con aggravante di cui all’art. 595 comma 3 c.p., ovvero quando l’offesa all’altrui reputazione avviene con qualsiasi altro mezzo di pubblicità. (Cass. pen., Sez. V, 01/06/2021, n. 28634, ex multis). Se utilizzato per ingannare il destinatario, il fatto potrebbe ascriversi, a seconda della condotta, al reato di cui all’art. 494 c.p. (sostituzione di persona), art. 640 (truffa), 640 ter (frode informatica), art. 56 e 629 c.p. (tentata estorsione), 612 bis (atti persecutori). Se il deepfake viene utilizzato per trarre in inganno qualcuno per ottenere un vantaggio personale o per altri, l’atto potrebbe configurarsi come truffa. Allo stesso modo, se utilizzato per minacciare un danno ingiusto al fine di ricavare denaro o altri benefici, potrebbe costituire estorsione. Se invece viene ripetutamente utilizzato per generare ansia nella vittima, potrebbe configurarsi come stalking. Se le false immagini sono utilizzate per alterare, in qualsiasi modo, il funzionamento di un sistema informatico o telematico potrebbe contestarsi la frode informatica. Infine, in caso di produzione o detenzione di materiale porno generato con deepfake ed avente per oggetto soggetti minorenni, sarà possibile, alternativamente o congiuntamente, applicare le fattispecie di cui all’art. 600 quater 1 c.p. (pornografia virtuale), art. 600 ter c.p. (pornografia minorile), art. 600 quater c.p. (detenzione di materiale pedo-pornografico). La pedopornografia virtuale rappresenta un grave crimine che coinvolge i minori e la produzione di materiale pornografico, come sottolineato dall’art. 600 quater.1 Cod. pen. che disciplina la questione in ambito legale. Le immagini virtuali sono definite come rappresentazioni grafiche create senza corrispondenza con situazioni reali, ma che appaiono realistiche. La legge prevede pene severe per chi commette tali crimini, con reclusione e multe salate per coloro che coinvolgono minori in attività pornografiche o ne traggono profitto. È fondamentale comprendere la gravità di tali azioni e rispettare la legge per proteggere i più vulnerabili. L’articolo 600 ter del Codice penale contiene disposizioni severe per coloro che coinvolgono minori in attività pornografiche.

La comunità tecnologica sta sviluppando strumenti di rilevamento avanzati basati sull’intelligenza artificiale, promuovendo standard di autenticità dei contenuti digitali e collaborando con piattaforme di social media per identificare e rimuovere i deepfake nocivi. Inoltre, vengono organizzati concorsi e sfide per migliorare le tecnologie di rilevamento dei deepfake.

I deepfake possono avere un impatto positivo se utilizzati eticamente e responsabilmente. Possono migliorare l’industria dell’intrattenimento, fornire soluzioni creative in ambito educativo e di formazione, e aiutare persone con disabilità vocali attraverso la sintesi vocale personalizzata.