In un’era in cui l’intelligenza artificiale può imitare in modo convincente voci e volti, il confine tra realtà e fabbricazione digitale si sta offuscando. Per affrontare questa crescente minaccia alla sicurezza, il colosso delle videoconferenze Zoom ha annunciato una partnership con World, la società di verifica dell’identità umana co-fondata da Sam Altman. La collaborazione mira a fornire un modo affidabile per distinguere i partecipanti umani reali dai deepfake generati dall’intelligenza artificiale durante le riunioni dal vivo.
La minaccia crescente delle frodi deepfake
La mossa arriva mentre le aziende affrontano un’ondata sempre più sofisticata di “frodi d’identità” tramite videochiamate. Sebbene un tempo i deepfake fossero una preoccupazione di nicchia, si sono evoluti in uno strumento ad alto rischio per lo spionaggio e il furto aziendale.
Gli incidenti recenti evidenziano il potenziale devastante di questi attacchi:
– L’incidente di Arup: all’inizio del 2024, una società di ingegneria ha perso 25 milioni di dollari dopo che un dipendente di Hong Kong ha partecipato a una videochiamata in cui tutti gli altri partecipanti, incluso il presunto direttore finanziario, erano in realtà un deepfake generato dall’intelligenza artificiale.
– Impatto finanziario: le frodi rese possibili dai deepfake hanno causato perdite superiori a 200 milioni di dollari solo nel primo trimestre dello scorso anno.
– Costi crescenti: i rapporti di settore suggeriscono che la perdita media per incidente di deepfake aziendale supera ora i 500.000 dollari.
Questa tendenza sottolinea un cambiamento fondamentale nella sicurezza informatica: gli aggressori non si limitano più ad hackerare software; stanno hackerando la percezione umana.
Perché il rilevamento tradizionale non funziona
I metodi attuali per rilevare i deepfake spesso si basano sull’analisi dei singoli fotogrammi video per individuare artefatti o anomalie digitali. Tuttavia, sia Zoom che World avvertono che questi metodi stanno diventando obsoleti. Man mano che i modelli di intelligenza artificiale generativa diventano più avanzati, stanno imparando a eliminare proprio i “segni rivelatori” ricercati dai software tradizionali, rendendo il rilevamento fotogramma per fotogramma sempre più inaffidabile.
Come funziona la tecnologia “Deep Face” del mondo
Invece di cercare semplicemente difetti visivi, la nuova integrazione utilizza un processo di verifica a più livelli noto come World ID Deep Face. Questo metodo si allontana dal “rilevamento di pixel falsi” e si avvicina alla “verifica di un’identità nota”.
Il processo di verifica si basa su una corrispondenza a tre:
1. L’identità originale: Un’immagine firmata catturata durante la registrazione iniziale dell’utente tramite il dispositivo “Orb” di World.
2. Scansione in tempo reale: una scansione del volto in tempo reale eseguita direttamente tramite il dispositivo corrente dell’utente.
3. Feed video in diretta: il fotogramma video effettivo trasmesso agli altri partecipanti alla riunione.
Solo quando tutti e tre gli elementi si allineano il sistema concede al partecipante un badge “Umano verificato”.
Implementazione e controllo per gli utenti
Zoom sta integrando questi strumenti per offrire agli organizzatori delle riunioni un maggiore controllo sui propri ambienti digitali. Le nuove funzionalità includeranno:
– Sale d’attesa Deep Face: gli ospitanti possono richiedere a tutti i partecipanti di sottoporsi a una verifica dell’identità prima di essere ammessi a una riunione.
– Verifica su richiesta: i partecipanti possono richiedere a un’altra persona di verificare la propria identità durante la chiamata in caso di sospetti.
Offrendo questi strumenti, Zoom mira a fornire uno strato di “fiducia digitale” che può essere personalizzato in base alla sensibilità dello scopo dell’incontro.
“Questa integrazione fa parte dell’approccio all’ecosistema aperto di Zoom, offrendo ai clienti più modi per creare fiducia nei loro flussi di lavoro in base a ciò che conta di più per il loro caso d’uso”, ha osservato il portavoce di Zoom Travis Isaman.
Conclusione
Poiché la tecnologia AI rende più semplice impersonare dirigenti e colleghi, la partnership Zoom-World rappresenta un passaggio necessario verso la verifica dell’identità basata sulla biometria. Questa mossa segnala un futuro in cui “vedere per credere” non sarà più sufficiente per garantire la sicurezza nello spazio di lavoro digitale.
