DEEPFAKE FAQ: le domande più frequenti

Deepfake: le domande più frequenti

In questa pagina rispondiamo alle domande più comuni sui Deepfake

Un deepfake è un tipo di media sintetico creato utilizzando l’intelligenza artificiale (IA) per sovrapporre volti o voci di persone su immagini, video o audio esistenti in modo realistico. La tecnologia di base spesso utilizza reti neurali profonde, da cui deriva il nome “deepfake”. Per rispondere in modo ancora più semplice  i deepfake sono “alterazioni digitali della realtà” compiute dall’intelligenza artificiale che è in grado di elaborare foto/video/audio reali, modificandoli in modo da sembrare comunque autentici, veri, anche se sono stati manipolati. Il termine “deepfake” è una contrazione e nasce dalla combinazione delle parole “fake” (falso) e “deep learning” (apprendimento approfondito). Quindi, unendo i due termini, un apprendimento approfondito, per la manipolazione di dati e informazioni, al fine di generare una nuova realtà.

Questa tecnologia viene utilizzata per molteplici scopi inappropriati:

  • per la diffusione di false notizie : sostituendo il volto di una persona in un video con quello di un’altra persona, simulando che il soggetto stia dicendo o facendo qualcosa che non ha mai detto o fatto.  Rientrano in questo ambito i video falsi di celebrità che dicono o fanno cose imbarazzanti o offensive ed i video falsi di politici che diffondono propagande non veritiere. I deepfake possono riguardare sia politici che leader di opinione, con l’obiettivo di manipolare la percezione del pubblico. Ad esempio, video deepfake potrebbero essere diffusi tra gli elettori che sostengono un politico, mostrandolo in situazioni compromettenti o a commettere atti discutibili al fine di danneggiarne la reputazione e influenzare le opinioni degli elettori o le scelte di voto. Questa pratica può purtroppo contribuire alla diffusione di notizie false e alla disinformazione.
  • per truffare le persone : creando finti video di personaggi famosi che ti invitano ad acquistare un prodotto o un servizio o fare un investimento vantaggioso che si rivelerà una truffa.
  • per diffamare le persone : proponendo falsi contenuti di qualsiasi genere come ad esempio nel revenge porn dove il fidanzato o la fidanzata lasciati si vendicano pubblicando immagini o video finti e compromettenti dell’ex partner. Si aggiunga come altro esempio quello di far ricadere la responsabilità di parole mai dette a qualcuno che è estraneo ad uno specifico fatto.
  • per atti di cyberbullismo : realizzando video manipolati con lo scopo di umiliare, deridere o diffamare le persone coinvolte.
  • per atti estorsivi : portando avanti ricatti sessuali. I deepfake per scopi estorsivi sono in costante aumento, con l’intento di richiedere pagamenti in cambio della non divulgazione o della rimozione di contenuti compromettenti. Approfondimenti qui : Rimozione Deepfake: materiale a sfondo sessualepresso il nostro studio.
  • per attività telematiche illecite – cybercrime : perseguendo diverse tipologie di cybercrime. Attraverso l’uso di volti e voci artefatti è possibile eludere i sistemi di sicurezza che si basano su dati biometrici facciali e vocali. I criminali informatici possono creare video e messaggi audio deepfake per indurre colleghi, amici e parenti di una vittima a fare qualcosa o ad interagire con link dannosi o allegati che mettono a rischio i loro dispositivi e sistemi. Inoltre, poiché molti sistemi digitali utilizzano l’autenticazione biometrica, esiste il rischio che video e audio deepfake possano essere sfruttati per manipolare tali sistemi e ottenere accesso non autorizzato a informazioni sensibili ( documenti personali salvati nel telefono o accessi agli account email o social ) o finanziarie ( accesso ai conti bancari ) contenute nel telefono di una persona.

I deepfake funzionano attraverso l’uso di reti neurali profonde, in particolare reti generative avversarie (GANs). Le GANs consistono in due reti: una generativa, che crea i falsi, e una discriminativa, che tenta di distinguere tra i falsi e i veri. La rete generativa impara a creare contenuti sempre più realistici fino a quando la rete discriminativa non riesce più a riconoscerli come falsi.

Le tipologie di deepfake possono variare in base alla tecnica utilizzata e agli obiettivi del creatore. Tuttavia, possiamo identificare alcune categorie principali:

  1. Deepfake video facciali: Questi deepfake sostituiscono il volto di una persona in un video con quello di un’altra persona, utilizzando algoritmi di apprendimento profondo per adattare i movimenti facciali e le espressioni alla nuova faccia. Questi possono essere utilizzati per creare video falsi di politici, celebrità o persone comuni.

  2. Deepfake audio: Questi deepfake manipolano registrazioni audio per far sembrare che una persona stia dicendo qualcosa che non ha mai detto. Questa tecnica può essere utilizzata per creare discorsi falsi o per modificare il tono e il contenuto di una conversazione.

  3. Deepfake immagini: Questi deepfake alterano le immagini per creare ritratti falsi o per modificare l’aspetto di una persona in una foto. Questa tecnica può essere utilizzata per creare immagini falsificate di persone o per alterare l’aspetto di una persona in una foto.

  4. Deepfake video completi: Questi deepfake coinvolgono la creazione di video completi, comprese le azioni e le parole di una persona che non è reale o che esiste, ma che non ha mai svolto quelle azioni.

  5. Deepfake testuali: Questi deepfake utilizzano l’IA per generare testi falsi o manipolati in modo da sembrare autentici. Questa tecnica può essere utilizzata per creare notizie false o per manipolare opinioni attraverso la diffusione di informazioni fuorvianti.

Queste sono solo alcune delle tipologie di deepfake esistenti, e la tecnologia continua a evolversi, portando potenzialmente a nuove forme di manipolazione mediatica.

Le applicazioni legittime dei deepfake includono la produzione cinematografica e televisiva (per effetti speciali o per riportare in vita attori deceduti), l’intrattenimento, la creazione di contenuti educativi e la sintesi vocale per persone con disabilità vocali. Inoltre, possono essere utilizzati per migliorare la realtà virtuale e aumentata.

1. Raccogliere Prove con valore legale

Documenta il deepfake e raccogli tutte le prove disponibili con valore legale. Consulta questa pagina https://falsoillegale.it/consulenze-legali-anti-deepfake/analisi-e-certificazione-deepfake/.

2. Identificare l’autore del falo

Se possibile procedere con l’identificazione dell’autore del deepfake o deepnude per una denuncia più efficace. Consulta questa pagina https://falsoillegale.it/consulenze-legali-anti-deepfake/identificazione-dellautore-del-falso-illegale/

3. Segnalare il Contenuto

Segnala il deepfake alle piattaforme online dove è stato pubblicato (social media, siti web, ecc.) ma solo dopo aver richiesto una certificazione con valore legale del deepfake perchè se il contenuto viene rimosso non avrai più una prova valida per la tua denuncia alla polizia postale. La maggior parte delle piattaforme ha procedure specifiche per la rimozione di contenuti falsi o dannosi. Noi di Falsoillegale.it ti aiutiamo a segnalare abusi, violazioni della privacy o contenuti inappropriati.

4. Consultare Falsoillegale.it

Il team di Falsoillegale.it può aiutarti a capire le tue opzioni legali, come inviare lettere di diffida, avviare procedimenti legali o denunciare l’episodio alle autorità competenti.

5. Informare le Autorità

Se il deepfake rappresenta una minaccia alla tua sicurezza o alla tua reputazione, oltre ai passaggi sopra indicati è fondamentale informare le autorità competenti. La polizia o altri organi di sicurezza possono avviare indagini e perseguire i responsabili. In alcuni paesi, la creazione e la diffusione di deepfake per scopi dannosi è un reato penale.

6. Prendere Precauzioni di Sicurezza

In fine rafforza la tua sicurezza online per prevenire futuri abusi. Questo può includere l’aggiornamento delle password, l’abilitazione dell’autenticazione a due fattori, e l’essere più attenti alle informazioni personali ( testi, immagini, video … ) che condividi online. Considera anche di limitare le impostazioni sulla privacy sui social media per rendere privati i tuoi account e ridurre il rischio di essere preso di mira nuovamente.

I rischi principali dei deepfake includono la diffamazione, la diffusione di disinformazione e fake news, il cyberbullismo, la manipolazione politica, le frodi finanziarie e l’abuso in contesti personali (come il revenge porn). La capacità di creare video falsi estremamente realistici può minare la fiducia nelle informazioni visive e audio.

Riconoscere un deepfake può essere difficile. Per i deepfake fatti da persone poco esperte ci sono alcuni segnali a cui prestare attenzione, Ad esempio: anomalie nei movimenti degli occhi o delle labbra, ombre incoerenti, artefatti visivi come sfocature o bordi irregolari, e comportamenti innaturali. Per i deepfake creati con strumenti più professionali occorrono abilità e competenze che solo gli esperti del settore, come il team di Falsoillegale.it, è in grado di offrire.

esistono diversi strumenti e software open-source che permettono di creare deepfake, come FaceSwap, DeepFaceLab e Zao. Tuttavia, l’uso di tali strumenti solleva questioni etiche e legali significative, ed è importante utilizzarli in modo responsabile.

I deepfake possono essere pubblicati su una varietà di piattaforme online, inclusi:

  1. Social media: Piattaforme come Facebook, X, Instagram, TikTok e altre sono spesso utilizzate per la condivisione di deepfakes, sia per scopi divertenti che per scopi dannosi.

  2. Siti di video sharing: Piattaforme come YouTube, Vimeo, e Dailymotion possono ospitare contenuti deepfake, che possono essere caricati dagli utenti.

  3. Forum e comunità online: Siti web e forum online dedicati alla condivisione di contenuti digitali, spesso ospitano contenuti deepfake, sia per scopi di intrattenimento che per scopi più discutibili.

  4. Siti web dedicati: Alcuni siti web possono essere specificamente dedicati alla creazione e alla condivisione di deepfakes. Tuttavia, molti di questi siti sono stati oggetto di critiche e sono stati chiusi dagli stessi gestori a causa delle preoccupazioni riguardanti l’abuso della tecnologia.

  5. Applicazioni di messaggistica: Le applicazioni di messaggistica istantanea come WhatsApp, Telegram e Signal possono essere utilizzate per condividere deepfake tramite messaggi privati o chat di gruppo.

È importante notare che molte piattaforme online hanno adottato politiche e strumenti per affrontare il problema dei deepfake e della disinformazione, comprese le politiche di utilizzo accettabile, gli algoritmi di rilevamento automatico dei contenuti manipolati e le opzioni per segnalare i contenuti sospetti. Tuttavia, la natura sempre mutevole della tecnologia e delle piattaforme online significa che i deepfake possono comunque essere diffusi e condivisi in vari contesti online.

Per proteggerti dai deepfake che non coinvolgono la tua persona, è importante:

  • Verificare l’origine dei contenuti multimediali.
  • Essere consapevoli delle tecnologie di manipolazione esistenti.
  • Mantenere un alto livello di scetticismo riguardo a contenuti sensazionali.
  • Seguire fonti di notizie affidabili.

Per proteggerti dai deepfake che potrebbero coinvolgere la tua persona :

  • Non pubblicare sui social video o immagini nei quali il tuo viso è ben riconoscibile
  • Non pubblicare sui social audio con la tua voce
  • Rendere privati i tuoi account social

Le differenze principali tra DeepNude e Deepfake riguardano la loro applicazione e il tipo di media che manipolano:

  1. Deepfake: Il termine “deepfake” è un concetto generale che si riferisce a qualsiasi tipo di media (video, audio, immagini, testo) manipolato o generato artificialmente utilizzando tecniche di intelligenza artificiale, come le reti neurali profonde. I deepfake possono essere utilizzati per sostituire il volto di una persona in un video, manipolare registrazioni audio per far sembrare che una persona dica qualcosa che non ha mai detto, alterare immagini per creare ritratti falsi, e così via. Sono spesso utilizzati per creare contenuti falsi o fuorvianti.

  2. DeepNude: DeepNude è un’applicazione specifica di deep learning che è stata progettata per creare immagini false di nudità a partire da foto di persone vestite. L’app utilizzava algoritmi di intelligenza artificiale per rimuovere digitalmente i vestiti dalle foto, creando così immagini di nudità che sembravano realistiche. Tuttavia, a causa delle preoccupazioni riguardanti la privacy e il possibile abuso dell’applicazione per scopi dannosi come la creazione di immagini pornografiche non consensuali, gli sviluppatori hanno interrotto il supporto e la distribuzione di DeepNude. Sono comunque già nate alternative come “undress.app”, “nudify.online” e “soulgen.org” … e molte altre

In breve, mentre Deepfake è un termine generale che si riferisce a una vasta gamma di manipolazioni mediatiche create utilizzando l’intelligenza artificiale, DeepNude era un’applicazione specifica progettata per creare immagini false di nudità attraverso tecniche di deep learning. Il deepnude è una tecnologia che consente di manipolare immagini per “spogliare” virtualmente le persone, anche minori, e sovrapporle a corpi nudi o coinvolti in atti sessuali. Questa pratica inizialmente mirava a compromettere personaggi famosi, ma ora, con la diffusione sempre maggiore di tale software, coinvolge anche individui comuni. Ciò può portare a gravi conseguenze sociali e psicologiche, come nel caso del “revenge porn” in cui vengono diffuse immagini sessualmente esplicite online per scopi di ricatto o vendetta. L’uso di video deepnude, senza il consenso delle persone rappresentate, può alimentare il sexting, la pornografia illegale e persino reati come la pedopornografia.

La regolamentazione dei deepfake varia a seconda del paese. In molti luoghi, l’uso di deepfake per scopi fraudolenti, diffamatori o per la violazione della privacy è illegale. Alcuni stati degli USA, come la California, hanno leggi specifiche contro l’uso dei deepfake in contesti elettorali e di revenge porn. In europa vige l’AI Act 2024 : Aspetti della legge UE sull’intelligenza artificiale riguardanti i deepfake

La creazione e la diffusione di deepfake che violano i diritti personali di un soggetto o vengono utilizzati per guadagni dolosi o criminali,  possono comportare una serie di reati, a seconda del contesto e delle circostanze specifiche. Parliamo in questi casi di intelligenza artificiale offensiva. Ecco alcuni dei reati che potrebbero essere commessi:

  1. Violazione della privacy: Se un deepfake coinvolge l’uso non autorizzato di immagini o registrazioni audio di una persona senza il loro consenso, può costituire una violazione della privacy. Questo può essere particolarmente rilevante se il deepfake include contenuti sensibili o dannosi per la reputazione della persona coinvolta.

  2. Diffamazione: La creazione e la diffusione di deepfake contenenti informazioni false o dannose su una persona possono costituire diffamazione. Questo può includere la diffusione di video o immagini falsi che danneggiano la reputazione o l’integrità di un individuo.

  3. Falsificazione di prove: Se i deepfake vengono utilizzati per falsificare prove in un procedimento legale, ad esempio alterando registrazioni audio o video per influenzare il risultato di un processo, ciò potrebbe costituire un reato di falsificazione di prove.

  4. Violazione dei diritti di proprietà intellettuale: Se un deepfake utilizza materiale protetto da copyright, come immagini o clip audio, senza il consenso del proprietario dei diritti, ciò potrebbe costituire una violazione dei diritti di proprietà intellettuale.

  5. Stalking o molestie: La creazione e la diffusione di deepfake con l’intento di molestare, minacciare o intimidire una persona possono costituire stalking o molestie, a seconda delle leggi locali.

  6. Violazione delle leggi sulla sicurezza informatica: Se i deepfake coinvolgono l’hacking o l’accesso non autorizzato a sistemi informatici o reti per ottenere dati o informazioni utilizzati nella manipolazione dei media, ciò potrebbe costituire una violazione delle leggi sulla sicurezza informatica.

  7. Furto di identità causato dalla perdita di controllo della propria immagine. Il deepfake rappresenta una forma estremamente grave di furto di identità. Le vittime di queste manipolazioni non solo perdono il controllo sulla propria immagine, ma sono anche esposte alla distorsione dei propri pensieri e delle proprie idee, che vengono falsamente attribuiti attraverso comportamenti e discorsi manipolati nei video. Inoltre, le persone coinvolte nei deepfake potrebbero trovarsi erroneamente in ambienti o situazioni mai vissuti o che mai avrebbero scelto di frequentare, mettendole in situazioni imbarazzanti. Fondamentalmente, i deepfake sono capaci di creare scenari del tutto inventati, mettendo a rischio la privacy e la dignità delle persone coinvolte che non hanno mai autorizzato tali pubblicazioni.
  8. Violenza sessuale e pornografia non consensuale: Se i deepfake coinvolgono la creazione o la diffusione di contenuti pornografici falsi o manipolati senza il consenso delle persone coinvolte, ciò potrebbe costituire un reato di violenza sessuale o pornografia non consensuale.

È importante notare che le leggi e le normative relative ai deepfake possono variare da giurisdizione a giurisdizione, e che il contesto specifico in cui vengono creati e diffusi i deepfake può influenzare i reati che possono essere coinvolti. Inoltre, la rapida evoluzione della tecnologia dei deepfake può rendere necessari continui aggiornamenti alle leggi esistenti per affrontare in modo efficace questa forma emergente di manipolazione mediatica. 

In italia il garante della privacy ed altre autorità di protezione dei dati personali possono intervenire per prevenire e sanzionare le violazioni della normativa in materia di protezione dei dati. Il materiale prodotto con la tecnica del deepfake è lesivo della reputazione con aggravante di cui all’art. 595 comma 3 c.p., ovvero quando l’offesa all’altrui reputazione avviene con qualsiasi altro mezzo di pubblicità. (Cass. pen., Sez. V, 01/06/2021, n. 28634, ex multis). Se utilizzato per ingannare il destinatario, il fatto potrebbe ascriversi, a seconda della condotta, al reato di cui all’art. 494 c.p. (sostituzione di persona), art. 640 (truffa), 640 ter (frode informatica), art. 56 e 629 c.p. (tentata estorsione), 612 bis (atti persecutori). Se il deepfake viene utilizzato per trarre in inganno qualcuno per ottenere un vantaggio personale o per altri, l’atto potrebbe configurarsi come truffa. Allo stesso modo, se utilizzato per minacciare un danno ingiusto al fine di ricavare denaro o altri benefici, potrebbe costituire estorsione. Se invece viene ripetutamente utilizzato per generare ansia nella vittima, potrebbe configurarsi come stalking. Se le false immagini sono utilizzate per alterare, in qualsiasi modo, il funzionamento di un sistema informatico o telematico potrebbe contestarsi la frode informatica. Infine, in caso di produzione o detenzione di materiale porno generato con deepfake ed avente per oggetto soggetti minorenni, sarà possibile, alternativamente o congiuntamente, applicare le fattispecie di cui all’art. 600 quater 1 c.p. (pornografia virtuale), art. 600 ter c.p. (pornografia minorile), art. 600 quater c.p. (detenzione di materiale pedo-pornografico). La pedopornografia virtuale rappresenta un grave crimine che coinvolge i minori e la produzione di materiale pornografico, come sottolineato dall’art. 600 quater.1 Cod. pen. che disciplina la questione in ambito legale. Le immagini virtuali sono definite come rappresentazioni grafiche create senza corrispondenza con situazioni reali, ma che appaiono realistiche. La legge prevede pene severe per chi commette tali crimini, con reclusione e multe salate per coloro che coinvolgono minori in attività pornografiche o ne traggono profitto. È fondamentale comprendere la gravità di tali azioni e rispettare la legge per proteggere i più vulnerabili. L’articolo 600 ter del Codice penale contiene disposizioni severe per coloro che coinvolgono minori in attività pornografiche.

La comunità tecnologica sta sviluppando strumenti di rilevamento avanzati basati sull’intelligenza artificiale, promuovendo standard di autenticità dei contenuti digitali e collaborando con piattaforme di social media per identificare e rimuovere i deepfake nocivi. Inoltre, vengono organizzati concorsi e sfide per migliorare le tecnologie di rilevamento dei deepfake.

I deepfake possono avere un impatto positivo se utilizzati eticamente e responsabilmente. Possono migliorare l’industria dell’intrattenimento, fornire soluzioni creative in ambito educativo e di formazione, e aiutare persone con disabilità vocali attraverso la sintesi vocale personalizzata.