Deepfake: la nuova emergenza che sta riscrivendo le regole del business

Nel gennaio 2024, un dipendente finanziario di Arup, multinazionale britannica dell'ingegneria (quella del Sydney Opera House), ha trasferito 25,6 milioni di dollari dopo una videoconferenza con il CFO e altri colleghi—tutti generati dall'intelligenza artificiale. Non era solo la voce ad essere clonata: era l'intera riunione, con più partecipanti deepfake che interagivano in tempo reale. A più di due anni di distanza, il caso Arup resta uno degli esempi che definiscono la frode deepfake aziendale—non perché sia rimasto isolato, ma perché ha mostrato quanto velocemente l'impersonificazione potesse passare dall'audio falso a intere riunioni sintetiche.

I numeri 2026: da emergenza a infrastruttura criminale

La fotografia più aggiornata arriva dallo studio Surfshark di aprile 2026, costruito su AI Incident Database, Resemble AI e dati OCSE: le perdite pubblicamente documentate legate a frodi deepfake hanno raggiunto i 2,19 miliardi di dollari tra il 2019 e marzo 2026. Un caveat necessario: questi database tracciano gli incidenti riportati pubblicamente—misurano la visibilità del fenomeno, non la sua reale estensione. Le frodi deepfake sono cronicamente sotto-denunciate, e la cifra effettiva è quasi certamente superiore. Il dato che conta è la distribuzione temporale: 1,65 miliardi solo nel 2025, contro circa 130 milioni nei cinque anni precedenti messi insieme. Nei primi tre mesi del 2026 il contatore segna già 96 milioni.

La categoria dominante non è la truffa al CEO, ma le false sponsorizzazioni di investimenti con deepfake di celebrità e figure istituzionali: 1,13 miliardi di dollari, il 52% di tutte le perdite documentate. Il fenomeno è arrivato anche in Italia, dove falsi video di Meloni e Mattarella che promettono rendimenti garantiti hanno costretto la Consob a oscurare numerosi siti web.

Sul fronte aziendale, un sondaggio Gartner di settembre 2025 rileva che il 62% delle organizzazioni ha subito un attacco deepfake negli ultimi dodici mesi. Resemble AI ha verificato 487 incidenti nel secondo trimestre 2025 e 2.031 nel trimestre successivo—una quadruplicazione in tre mesi. Sumsub registra una crescita del 180% anno su anno delle frodi d'identità "sofisticate", passate dal 10% al 28% del totale. E secondo Group-IB, oltre il 10% delle banche ha già subito perdite superiori al milione di dollari da vishing con voci sintetiche, con una media di 600.000 dollari per incidente.

Le proiezioni del Deloitte Center for Financial Services restano il riferimento: 40 miliardi di dollari di perdite da frodi facilitate dall'AI generativa negli Stati Uniti entro il 2027, con crescita annua del 32%.

Dall'audio clonato alle assunzioni fantasma

La storia dei deepfake corporate inizia nel marzo 2019, quando il CEO di una sussidiaria britannica di un gruppo energetico tedesco ricevette una telefonata dal suo superiore—o almeno così credeva. La voce replicava perfettamente l'accento tedesco, la "melodia" del parlato, le inflessioni personali. Risultato: €220.000 trasferiti in Ungheria in meno di un'ora.

Da allora, gli attacchi sono diventati più audaci. A luglio 2024, un dirigente Ferrari ricevette messaggi WhatsApp e poi una telefonata dal "CEO Benedetto Vigna" che discuteva di un'acquisizione riservata. La voce deepfake catturava perfettamente l'accento del sud Italia di Vigna. Cosa ha salvato Ferrari? Una domanda personale: il nome di un libro che Vigna aveva recentemente raccomandato. Il truffatore non ha saputo rispondere.

WPP, il colosso pubblicitario, ha subito un tentativo simile nel maggio 2024: una videochiamata Microsoft Teams in cui il CEO Mark Read appariva (via AI) insieme ad altri dirigenti, chiedendo la creazione di una nuova entità aziendale. Solo la vigilanza di un dipendente ha bloccato la frode.

Il trend più sottovalutato riguarda le assunzioni. Secondo Resume Genius, il 17% dei responsabili HR ha già incontrato candidati deepfake nei colloqui video—e Gartner prevede che entro il 2028 un candidato su quattro sarà falso. Il Dipartimento di Giustizia americano ha rivelato che oltre 300 aziende statunitensi hanno inconsapevolmente assunto operativi nordcoreani che usavano identità false e tecnologia deepfake, sottraendo complessivamente oltre 6,8 milioni di dollari. L'Internet Crime Report dell'FBI ha documentato 13 milioni di dollari di perdite denunciate legate a deepfake audio e video nei colloqui di lavoro da remoto. Per chi assume sviluppatori in remoto—cioè quasi tutti, noi compresi—questo non è un problema teorico.

I tribunali stanno perdendo la bussola della verità digitale

Il sistema legale affronta un problema epistemologico genuinamente nuovo. A settembre 2025, nel caso Mendones v. Cushman & Wakefield in California, la giudice Victoria Kolakowski ha identificato per la prima volta prove deepfake presentate come autentiche: video con movimenti robotici, loop ripetitivi, espressioni facciali innaturali. L'analisi dei metadati ha rivelato la pistola fumante: il video dichiarava di essere stato girato con un iPhone 6, ma richiedeva funzionalità disponibili solo dall'iPhone 15 in poi. Il caso è stato archiviato con sanzioni terminali.

Ma il problema è duplice. Da un lato, le prove false che entrano nei tribunali. Dall'altro, quello che gli esperti chiamano "liar's dividend": la possibilità di contestare prove autentiche sostenendo che potrebbero essere deepfake. Nel contenzioso Tesla sull'Autopilot, già nel 2023, i legali di Elon Musk avevano tentato di sostenere che dichiarazioni video del CEO del 2016 potessero essere contraffatte. La giudice Evette Pennypacker ha definito l'argomento "profondamente preoccupante", stabilendo che non si può "dire qualunque cosa nel dominio pubblico e poi nascondersi dietro la possibilità che sia un deepfake".

Ricerche della Brookings Institution hanno dimostrato che i politici che falsamente accusano prove autentiche di essere deepfake guadagnano più supporto pubblico rispetto a quelli che restano in silenzio o si scusano. Si crea un incentivo perverso a negare l'evidenza autentica.

Sul piano normativo americano, la risposta è frammentata: la Louisiana ha introdotto la prima legge statale (Act 250, agosto 2025) che impone agli avvocati la "diligenza ragionevole" nel verificare l'autenticità delle prove, mentre la proposta di una nuova Rule 901(c) federale per le prove potenzialmente fabbricate con AI generativa richiederà anni di iter.

Italia: il deepfake ora è un reato. E riguarda anche la vostra azienda

Qui la novità che ogni imprenditore italiano deve conoscere. Con la Legge 23 settembre 2025, n. 132—la prima legge-quadro italiana sull'intelligenza artificiale, in vigore dal 10 ottobre 2025—l'ordinamento ha introdotto l'articolo 612-quater del Codice Penale: illecita diffusione di contenuti generati o alterati con sistemi di intelligenza artificiale. Chi diffonde senza consenso contenuti falsificati con l'AI, idonei a trarre in inganno e causando un danno ingiusto, rischia da 1 a 5 anni di reclusione.

Due aspetti rendono questa legge rilevante per le imprese, non solo per le vittime individuali.

Primo: la legge introduce una nuova aggravante comune (art. 61, n. 11-decies c.p.) per qualsiasi reato commesso "mediante l'impiego di sistemi di intelligenza artificiale" quando l'AI costituisce mezzo insidioso od ostacola la difesa. Tradotto: qualunque frode realizzata con strumenti AI pesa di più.

Secondo, e più importante: l'aggravante ha effetti diretti sulla responsabilità degli enti ai sensi del D.Lgs. 231/2001. Le aziende devono aggiornare i propri Modelli di Organizzazione, Gestione e Controllo per coprire i rischi legati all'uso—e all'abuso—dei sistemi AI. Se la vostra azienda ha un MOG fermo al 2023, è già obsoleto.

Il tema è caldissimo: il 6 maggio 2026 il Garante per la protezione dei dati personali ha pubblicato un documento ufficiale chiedendo la facoltà di bloccare in Italia le piattaforme di generazione AI che non rispettano le norme di tutela dei dati—pochi giorni dopo che immagini manipolate della stessa premier Meloni avevano fatto il giro dei social.

Europa: l'accordo del 7 maggio ridisegna il calendario

Il 7 maggio 2026, Consiglio e Parlamento europeo hanno raggiunto l'accordo politico sul Digital Omnibus AI, il primo pacchetto di modifiche all'AI Act dalla sua adozione. Tre date da segnare:

2 agosto 2026 — restano in vigore gli obblighi di trasparenza fondamentali dell'articolo 50: chi impiega sistemi AI deve dichiarare quando un utente sta interagendo con un'AI, e chi pubblica contenuti deepfake deve dichiararne la natura artificiale. Questa scadenza non è stata toccata dall'Omnibus.

2 dicembre 2026 — slitta un obbligo specifico: la marcatura in formato leggibile dalle macchine («watermarking») prevista dall'articolo 50(2) per i provider di sistemi generativi passa da agosto a dicembre—un rinvio di soli quattro mesi. Chi sviluppa o integra sistemi generativi ha sei mesi da oggi.

2 dicembre 2027 / 2 agosto 2028 — slittano invece in modo sostanziale gli obblighi per i sistemi ad alto rischio (rispettivamente Annex III e Annex I), in attesa di standard tecnici e autorità nazionali operative.

L'accordo introduce inoltre il divieto assoluto delle app di "nudification": sistemi progettati per generare contenuti espliciti di persone identificabili senza consenso. Le sanzioni dell'AI Act restano dissuasive: fino a €15 milioni o il 3% del fatturato globale annuo, con ambito extraterritoriale.

Fuori dall'UE: negli Stati Uniti il TAKE IT DOWN Act (maggio 2025) è la prima legge federale di rilievo specificamente dedicata alle immagini intime non consensuali generate con AI, con obbligo di rimozione entro 48 ore; un numero in rapida crescita di stati ha approvato proprie leggi sui deepfake, in gran parte emanate nel 2024-2025. La Cina mantiene dal 2023 uno dei framework più stringenti su etichettatura e consenso; il Regno Unito criminalizza i deepfake sessualmente espliciti non consensuali con l'Online Safety Act.

La cassetta degli attrezzi esiste, ma pochi la usano

Il dato più allarmante non è la crescita degli attacchi, ma il ritardo delle difese: la grande maggioranza delle aziende non ha ancora protocolli specifici per gestire un attacco deepfake. Eppure le soluzioni esistono.

Sul fronte tecnologico, il mercato del rilevamento è ormai maturo. FakeCatcher di Intel analizza il flusso sanguigno facciale—quando il cuore pompa sangue, le vene cambiano colore in modi che i deepfake attuali faticano a replicare. Reality Defender offre una piattaforma multi-modale per immagini, video, audio e testo. Pindrop si integra con Zoom, Teams e Webex per il rilevamento in tempo reale delle voci sintetiche; Resemble AI è specializzata nell'audio in oltre 30 lingue. Una cautela vale per tutti: i vendor dichiarano accuratezze elevate in condizioni controllate o di benchmark, ma le prestazioni reali variano con compressione, qualità del contenuto, lingua e adattamento avversariale. Nessun rilevatore va trattato come controllo a sé stante.

Per questo le difese procedurali sono spesso più affidabili del rilevamento tecnico:

• Protocolli di callback: prima di qualsiasi trasferimento o modifica di coordinate bancarie, telefonare al destinatario usando numeri verificati indipendentemente—mai quelli forniti nella comunicazione sospetta
• Codici di sicurezza executive: password verbali per confermare l'identità, incluso un "codice di emergenza" che segnali coercizione senza allertare l'attaccante
• Verifiche in videochiamata: chiedere ai partecipanti di passare la mano davanti al viso (destabilizza i filtri deepfake), girare la testa di profilo, o rispondere a domande personali impreviste—la "domanda del libro" che ha salvato Ferrari
• Approvazioni multiple: nessuna transazione significativa con una sola autorizzazione
• Cultura del "ferma e verifica": l'urgenza artificiale è una tattica di pressione, non un motivo per accelerare

L'autenticazione dei contenuti sta diventando uno standard globale

La risposta strutturale più promettente resta il C2PA (Coalition for Content Provenance and Authenticity), lo standard sviluppato da Adobe, Microsoft, Intel, BBC, New York Times, Nikon, Canon, Sony, OpenAI e Meta. Funziona come un'"etichetta nutrizionale" per i contenuti digitali: Content Credentials crittograficamente firmate che registrano chi ha creato il contenuto, quando, come, e l'intera cronologia delle modifiche.

L'approccio è a tre livelli: metadati sicuri integrati nel file, watermark digitali invisibili che sopravvivono a screenshot e re-upload, e fingerprint percettive che identificano i contenuti anche se modificati. Le fotocamere Leica e Nikon supportano lo standard a livello di dispositivo, e i chip Qualcomm Snapdragon integrano Content Credentials nell'hardware mobile.

Il limite resta l'adozione volontaria. Ma con l'obbligo europeo di watermarking che scatta il 2 dicembre 2026, quello che era un incentivo sta diventando un requisito.

Cosa fare domani mattina: un piano d'azione in tre fasi

Azioni immediate (questa settimana): Implementare protocolli di callback per tutte le transazioni finanziarie. Stabilire codici di sicurezza con i dirigenti chiave. Formare i team finance e HR sui segnali d'allarme: ritardi nel sincronismo labiale, movimenti facciali innaturali, resistenza alle richieste di verifica. Aggiungere una verifica d'identità rafforzata ai colloqui di assunzione da remoto.

Azioni a medio termine (3-6 mesi): Valutare piattaforme enterprise di rilevamento. Integrare liveness detection nei processi di onboarding digitale. Sviluppare playbook di incident response specifici per scenari deepfake. Aggiornare il Modello 231 per coprire i rischi da reati commessi mediante sistemi AI, alla luce della Legge 132/2025. Verificare la propria posizione rispetto agli obblighi di trasparenza dell'AI Act in vigore dal 2 agosto 2026.

Strategia di lungo termine: Incorporare il rilevamento deepfake nell'infrastruttura di sicurezza come elemento fondamentale, non come add-on. Prepararsi alla scadenza watermarking del 2 dicembre 2026 se si sviluppano o integrano sistemi generativi. Partecipare a coalizioni di settore (C2PA, Content Authenticity Initiative). Condurre audit regolari che testino le capacità di risposta ai deepfake.

Conclusione: il valore della verifica in un mondo di dubbi costruiti

La professoressa Maura Grossman dell'University of Waterloo ha sintetizzato la nuova realtà: "Invece di fidarsi e verificare, dovremmo dire: non fidarsi e verificare." Il cambiamento culturale richiesto è profondo. L'urgenza—storicamente un acceleratore di decisioni aziendali—deve diventare un segnale d'allarme. La comodità delle comunicazioni digitali deve essere bilanciata da frizioni intenzionali.

La tecnologia di generazione evolve più velocemente di quella di rilevamento, e il 2025-2026 lo ha dimostrato con un'escalation che nessun'altra categoria di crimine informatico ha eguagliato. Ma la risposta non è arrendersi: è costruire difese stratificate che combinano tecnologia, procedure, formazione—e ora anche compliance, perché il legislatore italiano ed europeo ha smesso di stare a guardare.

Le organizzazioni che investono oggi in questa resilienza non stanno solo proteggendo i loro asset. Stanno preservando qualcosa di più fondamentale: la capacità di distinguere il vero dal falso in un ecosistema informativo dove questa distinzione sta diventando sempre più costosa da stabilire e sempre più preziosa da possedere.

Fonti

1. Surfshark Research — Global deepfake fraud reaches $2.19B (aprile 2026): https://surfshark.com/research/chart/deepfake-fraud-countries
2. Keepnet Labs — Deepfake Statistics 2026 (dati Gartner, Sumsub, Pindrop): https://keepnetlabs.com/blog/deepfake-statistics-and-trends
3. Bright Defense — 150+ Deepfake Statistics (marzo 2026): https://www.brightdefense.com/resources/deepfake-statistics/
4. Programs.com — Deepfake Facts & Statistics (dati trimestrali Resemble AI): https://programs.com/resources/deepfake-stats/
5. ICT Security Magazine — Truffa deepfake da 25 milioni (caso Arup): https://www.ictsecuritymagazine.com/notizie/truffa-deepfake/
6. Consiglio dell'UE — Comunicato stampa sull'accordo Digital Omnibus AI (7 maggio 2026): https://www.consilium.europa.eu/en/press/press-releases/2026/05/07/artificial-intelligence-council-and-parliament-agree-to-simplify-and-streamline-rules/
7. Gibson Dunn — EU AI Act Omnibus Agreement (analisi scadenze): https://www.gibsondunn.com/eu-ai-act-omnibus-agreement-postponed-high-risk-deadlines-and-other-key-changes/
8. Altalex — L'art. 612-quater c.p. e la tutela penale contro i deepfake: https://www.altalex.com/documents/news/2026/01/09/art-612-quater-cp-tutela-penale-contro-deepfake-lacuna-normativa-tipizzazione-legislativa
9. Avvenire — Il caso dei deepfake e le immagini manipolate della premier Meloni (maggio 2026): https://www.avvenire.it/politica/il-caso-dei-deepfake-e-le-immagini-manipolate-della-premier-giorgia-meloni_107987
10. Consumatori.it — Deepfake, il Garante Privacy chiede di bloccare le piattaforme AI (maggio 2026): https://www.consumatori.it/news/deepfake/
11. FBI — Internet Crime Complaint Center (IC3), Internet Crime Report: https://www.ic3.gov/
12. C2PA — Coalition for Content Provenance and Authenticity: https://c2pa.org/

Fabio Lauria
CEO & Founder, ELECTE

Ogni settimana approfondiamo il tema dell'intelligenza artificiale senza lasciarci influenzare dal clamore mediatico, basandoci su dati, analisi e un punto di vista indipendente.