Deepfake e voce clonata: quando la prova che ti convince è proprio il trucco

Il falso Vigna a Ferrari, il falso CFO di Arup, la falsa figlia al telefono: come funzionano le truffe con voce e volti sintetici e perché l'orecchio non basta.

Luglio 2024, un martedì mattina. Un dirigente di Ferrari riceve su WhatsApp una serie di messaggi dall'amministratore delegato, Benedetto Vigna. Si parla di una grande acquisizione, di un accordo di riservatezza da firmare, di autorità di borsa già informate. Il numero non è quello solito, la foto profilo è diversa, ma Vigna spiega che per un affare così delicato usa un altro telefono.

Poi arriva la chiamata. È la sua voce, con il suo accento del sud Italia. Il "CEO" racconta che l'operazione ha incontrato ostacoli legati alla Cina e chiede di preparare una copertura valutaria. Il dirigente ascolta. Qualcosa nell'intonazione gli sembra strano, appena un po' meccanico. Allora fa una domanda che solo il vero Vigna saprebbe: qual è il titolo del libro che Vigna gli aveva consigliato di recente?

Dall'altra parte, la linea cade. [1]

Quella domanda ha funzionato. Ma tu, al suo posto, ci avresti pensato? E se la voce fosse stata perfetta?

In breve

Un deepfake è un contenuto (voce, immagine, video) generato o modificato con l'intelligenza artificiale per sembrare una persona reale. Nelle truffe serve quasi sempre a una cosa: dare una prova sensoriale a una richiesta che altrimenti verificheremmo. Per clonare una voce in modo credibile, secondo alcune prove di settore, bastano pochi secondi di audio pubblico.

🟢 Solida: una meta-analisi su 56 studi e oltre 86.000 partecipanti mostra che le persone riconoscono i deepfake poco meglio del caso. [11]

Come funziona l'attacco

Visto dal lato di chi lo riceve, l'attacco ha quasi sempre la stessa struttura.

1. Un primo contatto scritto, spesso da un numero o un account nuovo, con la foto giusta. Prepara il terreno: "Ti chiamo tra poco, è una cosa delicata".
2. La voce o il volto. Una chiamata, un messaggio vocale o una videochiamata in cui la persona "c'è". In azienda è il capo; in famiglia è un figlio, una figlia, un nipote in lacrime.
3. Un'emergenza. Un'acquisizione segreta, un incidente, un arresto, un sequestro di persona. L'emozione è altissima e il tempo pochissimo.
4. La richiesta. Un bonifico, contanti da consegnare a un "incaricato", dati riservati.
5. L'isolamento. "Non chiamare nessuno", "resta in linea", "non dirlo a papà".

La tecnologia è solo il trucco di scena: la truffa resta autorità o affetto, più urgenza e segretezza.

Le leve nel cervello

• Vedere e sentire è credere. Per milioni di anni una voce familiare ha significato una persona presente. Il cervello non ha un "filtro anti-sintesi": riconosce la voce come prova d'identità e passa oltre. Per questo il deepfake funziona soprattutto contro chi dubita: nel caso Arup l'impiegato era sospettoso, e la videochiamata è servita proprio a sciogliere il sospetto. [4]
• Autorità. La voce del CEO, del ministro, del direttore finanziario. Vedi Bias di autorità.
• Affetto e paura. La voce di un figlio che piange spegne il ragionamento più di qualsiasi minaccia. Vedi Avversione alla perdita.
• Riprova sociale. In una videochiamata con più colleghi finti, ognuno conferma gli altri. Vedi Riprova sociale.
• Eccesso di fiducia. Quasi tutti pensiamo di saper riconoscere un falso. Nel test di iProov su 2.000 persone, oltre il 60% si diceva sicuro delle proprie risposte, giuste o sbagliate che fossero. [16] Vedi Eccesso di fiducia.

Casi reali

1. Regno Unito, 2019: il primo caso noto di voce clonata. L'amministratore delegato di una società energetica britannica, controllata da un gruppo tedesco, riceve la chiamata del "capo" della casa madre: con il suo leggero accento tedesco e la sua "melodia", gli chiede di pagare entro un'ora 220.000 euro a un fornitore ungherese. Lui paga. Il truffatore richiama per dire che la somma è stata rimborsata, poi una terza volta per un altro pagamento, ma da un numero austriaco: il manager si insospettisce e rifiuta. I soldi passano dall'Ungheria al Messico e poi spariscono. Il caso è stato reso noto dall'assicuratore Euler Hermes al Wall Street Journal. [2] [3]

2. Arup, Hong Kong, 2024: 25,6 milioni di dollari. Una videochiamata con il direttore finanziario e altri colleghi, tutti sintetici; 15 bonifici per 200 milioni di dollari di Hong Kong. "Il numero e la sofisticazione di questi attacchi stanno crescendo bruscamente", ha scritto a CNN il responsabile informatico globale di Arup, Rob Greig. [4]

3. Ferrari e WPP, 2024: due tentativi falliti. Il caso Vigna lo abbiamo raccontato all'inizio. A maggio dello stesso anno i truffatori avevano provato con WPP, il più grande gruppo pubblicitario del mondo: un account WhatsApp con la foto del CEO Mark Read, una riunione su Teams con la sua voce clonata e spezzoni dei suoi video su YouTube, per ottenere soldi e informazioni da un dirigente. Fallito grazie alla prudenza dei dipendenti. [1] [5]

4. Italia, 2025: il falso ministro Crosetto. Telefonate con la voce clonata del ministro della Difesa e numeri che sembravano del ministero. La storia: giornalisti italiani rapiti, un riscatto da anticipare, il rimborso "garantito da Banca d'Italia". Tra i contattati, secondo la stampa, nomi come Tronchetti Provera, Della Valle, Armani e Bertelli. Massimo Moratti ha pagato quasi un milione di euro, poi congelato su un conto olandese. [6] [7]

5. Treviso, 2025: la voce della figlia. Una donna di 84 anni sente al telefono la figlia che piange: "Mamma, mamma, mio marito ha fatto un incidente". Servono soldi subito. Consegna 30.000 euro in contanti a un incaricato. Secondo la stampa locale la voce era probabilmente clonata da video pubblicati sui social. I carabinieri hanno arrestato un uomo di 55 anni e sequestrato 40.000 euro e gioielli. [8] [9]

I numeri e cosa dice la ricerca

Sul crimine.

• FBI IC3, 2025: 22.364 denunce con un legame con l'IA e circa 893 milioni di dollari di perdite (dati che si sovrappongono ad altre categorie). [17]
• FBI, maggio 2025: allerta su una campagna di SMS e messaggi vocali generati con l'IA che imitavano alti funzionari americani per rubare account. "Non date per scontato che sia autentico", scriveva l'FBI. [18]
• Italia, 2025: la legge 132/2025 sull'intelligenza artificiale ha introdotto il reato di illecita diffusione di contenuti generati o alterati con l'IA (art. 612-quater c.p.), punito con la reclusione da uno a cinque anni quando causa un danno ingiusto. [19]

Sulla nostra capacità di riconoscerli.

• 🟢 Meta-analisi (Diel e colleghi, 2024): 56 articoli, 86.155 partecipanti. Accuratezza complessiva del 55,5%, non significativamente diversa dal caso. Per l'audio il 62%, per i video il 57%, per le immagini il 53%. [11]
• 🟢 Voci (Mai e colleghi, UCL, PLOS ONE 2023): 529 partecipanti riconoscevano il parlato sintetico il 73% delle volte, in inglese e in mandarino. L'allenamento migliorava i risultati solo di poco. [12]
• 🟡 Voci clonate (Barrington, Cooper e Farid, Scientific Reports 2025, 604 partecipanti): quando una voce clonata viene confrontata con l'originale, solo nel 20% dei casi le persone capiscono che non è la stessa persona; distinguono reale e sintetico circa il 60% delle volte. [13] [14] Promettente: studio solido ma singolo, con voci della generazione 2024.
• 🟢 Volti (Nightingale e Farid, PNAS 2022): 315 partecipanti hanno distinto volti veri e sintetici nel 48,2% dei casi, come lanciare una moneta. Dopo un allenamento, circa il 59%. E i volti sintetici sono stati giudicati più affidabili di quelli reali (4,82 contro 4,48 su una scala da 1 a 7). [15]
• 🟠 Da testare: secondo un test di iProov (2025, azienda che vende sistemi di verifica biometrica) solo lo 0,1% di 2.000 persone ha classificato correttamente tutti i contenuti veri e falsi. [16] Secondo un sondaggio McAfee (2023, 7.054 adulti) bastavano tre secondi di audio per una copia della voce con l'85% di somiglianza. [20] Dati utili come ordine di grandezza, ma prodotti da aziende del settore.

Il messaggio è uno: l'orecchio e l'occhio non sono strumenti di verifica.

Cosa raccontano le vittime

• Il finto rapimento. Jennifer DeStefano, madre dell'Arizona, ha sentito al telefono la figlia quindicenne in lacrime, poi un uomo che chiedeva un milione di dollari di riscatto e minacciava entrambe. Erano con lei altre mamme: una ha chiamato il 911, un'altra il marito. In quattro minuti hanno scoperto che la ragazza era a casa, in camera sua. DeStefano ha poi testimoniato al Senato americano. [10]
• "Volevo sprofondare per la vergogna." La signora di Treviso, a giornali locali, ha descritto la sensazione di essere stata tradita e umiliata. [8] È la reazione più comune, ed è anche quella che i truffatori sfruttano: chi si vergogna non denuncia e non avvisa gli altri.

Il mito da smontare

"Un deepfake si riconosce: la voce è robotica, il volto non sbatte le palpebre." 🔴 Mito.

Erano indizi validi anni fa. Oggi la ricerca dice che siamo vicini al caso, e che l'allenamento aiuta poco. [11] [12] [15] Nel caso Ferrari il dirigente ha notato qualcosa di strano, ma non si è fidato della sensazione: ha fatto una domanda di verifica. È questo che lo ha salvato, non il suo orecchio. [1]

Segnali d'allarme

• 🚩 Un numero o un account nuovo con la foto giusta.
• 🚩 Un'emergenza (incidente, arresto, rapimento, acquisizione segreta) con richiesta di soldi.
• 🚩 Segretezza: "non dirlo a nessuno", "non chiamare papà".
• 🚩 Chi parla evita le domande personali o cambia argomento.
• 🚩 Pagamento in contanti a un incaricato, in cripto o con bonifico verso l'estero.
• 🚩 La chiamata cade o la qualità peggiora proprio quando fai una domanda.
• 🚩 Un rimborso "garantito" da un'istituzione (Banca d'Italia, ministero).

Come difendersi

In famiglia.

• Una parola d'ordine di famiglia, decisa a voce e mai scritta in chat, da chiedere quando qualcuno chiede soldi in emergenza.
• Riattacca e richiama la persona sul suo numero di sempre. Se non risponde, chiama qualcuno che è con lei.
• Parlane con i genitori anziani prima che succeda: sapere che la voce si può copiare toglie metà del potere al trucco.

In azienda.

• Nessun pagamento si autorizza solo per voce o videochiamata. Serve sempre la procedura scritta e la regola dei due.
• Domande di verifica tra dirigenti e amministrazione, come quella di Ferrari, o una parola concordata.
• Callback su un numero già in rubrica per ogni richiesta insolita.
• Formazione con casi veri (Arup, Ferrari, WPP): non per insegnare a "riconoscere" i deepfake, ma per far accettare la verifica come normale.

Se è già successo

Chiama subito la banca per bloccare o richiamare il bonifico: nel caso Moratti la somma è stata congelata. [7] Se hai consegnato contanti o gioielli, chiama il 112 e descrivi l'incaricato. Denuncia alla Polizia Postale (anche su commissariatodips.it) e conserva numeri, messaggi vocali e registrazioni: sono prove. Avvisa familiari e colleghi, perché gli stessi truffatori spesso richiamano altre persone. Tutti i passaggi in Cosa fare se ci sei cascato.

Mettiti alla prova

Domenica sera ti arriva un vocale WhatsApp da un numero sconosciuto. È la voce di tuo figlio, agitata: "Papà, ho perso il telefono e sono nei guai, questo è il numero di un amico. Ti scrivo qui, mi servono 900 euro entro stasera, ti spiego dopo. Non dirlo alla mamma, per favore."

Attacco o richiesta vera?

Soluzione. Quasi certamente un attacco: numero nuovo, emergenza vaga, scadenza ravvicinata, segretezza. La voce non conta, perché si può clonare da pochi video pubblici. Chiama tuo figlio sul suo numero, o qualcuno che è con lui, e chiedi la parola d'ordine di famiglia. Se è davvero nei guai, due minuti di verifica non cambieranno nulla.

Per approfondire

• Frode del CEO
• Smishing e vishing
• Phishing: l'email che sembra vera
• Ingegneria sociale: la guida completa
• Bias di autorità · Eccesso di fiducia · Riprova sociale
• Scheda libro: Duped di Timothy Levine · The Confidence Game di Maria Konnikova

Fonti

1. Bloomberg, "Ferrari narrowly dodges deepfake scam simulating deal-hungry CEO", ripreso da Gulf News, 27 luglio 2024. https://gulfnews.com/business/retail/ferrari-narrowly-dodges-deepfake-scam-simulating-deal-hungry-ceo-1.1722097614086
2. Gizmodo, "Scammer successfully deepfaked CEO's voice to fool underling", 3 settembre 2019 (riprende il Wall Street Journal). https://gizmodo.com/scammer-successfully-deepfaked-ceos-voice-to-fool-under-1837835066?IR=T
3. Sophos, "Scammers deepfake CEO's voice to talk underling into $243,000 transfer", 2019. https://www.sophos.com/es-es/blog/scammers-deepfake-ceos-voice-to-talk-underling-into-243000-transfer
4. CNN, articolo sul caso Arup, 16 maggio 2024. https://edition.cnn.com/2024/05/16/tech/arup-deepfake-scam-loss-hong-kong-intl-hnk
5. Marketing Beat, "WPP CEO's identity usurped by deepfake scammers", 13 maggio 2024. https://www.marketing-beat.co.uk/2024/05/13/mark-read-deepfake-wpp-ai/
6. QuiFinanza, "Truffa del falso Crosetto, denuncia del ministro", 10 febbraio 2025. https://quifinanza.it/attualita/crosetto-truffa-denuncia/880889/
7. CO/AI (da Reuters), "Convincing AI voice scam targeting CEOs leads to cash freeze by Italian police", 12 febbraio 2025. https://getcoai.com/news/convincing-ai-voice-scam-targeting-ceos-leads-to-cash-freeze-by-italian-police-fraudsters-get-the-boot
8. Libero Quotidiano, articolo sulla truffa del finto incidente a Treviso, 6 febbraio 2025. https://www.liberoquotidiano.it/news/italia/41544632/truffa-finto-incidente-treviso-voce-intelligenza-artificiale-cosa-fare-attenzione/
9. iPhone Italia, "Truffa in Italia: clonano la voce della figlia con l'intelligenza artificiale e derubano un'anziana", febbraio 2025 (riprende Corriere del Veneto). https://www.iphoneitalia.com/?p=834294
10. AZFamily, "Scottsdale mom's encounter and congressional testimony on AI kidnapping scammers", 1 gennaio 2024. https://www.azfamily.com/2024/01/01/scottsdale-moms-encounter-congression-testimony-ai-kidnapping-scammers/
11. Diel, A., Lalgi, T., Schröter, I. C., MacDorman, K. F., Teufel, M., Bäuerle, A. (2024). Human performance in detecting deepfakes: A systematic review and meta-analysis of 56 papers. Computers in Human Behavior Reports, 16, 100538. https://doaj.org/article/a2803c8a1b9441458f000fd0fe82ea47
12. Mai, K. T., Bray, S., Davies, T., Griffin, L. D. (2023). Warning: Humans cannot reliably detect speech deepfakes. PLOS ONE. Sintesi UCL News, 2 agosto 2023. https://www.ucl.ac.uk/news/2023/aug/humans-unable-detect-over-quarter-deepfake-speech-samples
13. Barrington, S., Cooper, E. A., Farid, H. (2025). People are poorly equipped to detect AI-powered voice clones. Scientific Reports, 15, 11004. https://pmc.ncbi.nlm.nih.gov/articles/PMC11958761/
14. UC Berkeley School of Information, "Berkeley researchers discover people are poorly equipped to detect AI-powered voice clones", 29 aprile 2025. https://www.ischool.berkeley.edu/news/2025/berkeley-researchers-discover-people-are-poorly-equipped-detect-ai-powered-voice-clones
15. Nightingale, S. J., Farid, H. (2022). AI-synthesized faces are indistinguishable from real faces and more trustworthy. PNAS, 119(8). Sintesi: Scientific American. https://www.scientificamerican.com/article/humans-find-ai-generated-faces-more-trustworthy-than-the-real-thing
16. iProov, comunicato "iProov study reveals deepfake blindspot", 12 febbraio 2025. https://www.silicon.co.uk/press-release/iproov-study-reveals-deepfake-blindspot-only-0-1-of-people-can-accurately-detect-ai-generated-deepfakes
17. FBI Internet Crime Complaint Center, 2025 Internet Crime Report, aprile 2026; sintesi MacMyths. https://macmyths.com/cybercrime-losses-jumped-26-to-20-9-billion-in-2025-fbi-says-but-scams-drove-most-of-the-increase/
18. NBC Los Angeles (CNBC), "FBI warns of AI voice messages impersonating top U.S. officials", 15 maggio 2025. https://www.nbclosangeles.com/news/business/money-report/fbi-warns-of-ai-voice-messages-impersonating-top-u-s-officials/3701991/
19. Studio Cataldi, "Il nuovo reato: il deepfake" (legge 23 settembre 2025, n. 132, art. 26). https://www.studiocataldi.it/articoli/48017-il-nuovo-reato-il-deepfake.asp
20. Help Net Security, "Your voice could be your biggest vulnerability", 8 maggio 2023 (sondaggio McAfee). https://www.helpnetsecurity.com/2023/05/08/ai-voice-scam/