Per anni i genitori hanno discusso i pro e i contro di pubblicare online le foto dei propri figli. Sebbene le preoccupazioni sui predatori online e sulla raccolta di dati siano sempre esistite, l’ascesa dell’intelligenza artificiale (AI) ha aggiunto un nuovo livello di pericolo a questo dilemma familiare. L’emergere di app “nudifier”, basate sull’intelligenza artificiale generativa, sta spingendo molti genitori a riconsiderare del tutto le loro abitudini sui social media.
Queste app possono generare facilmente immagini esplicite raffiguranti il volto di chiunque utilizzando solo una fotografia. Sebbene a prima vista sembrino innocue, le implicazioni sono profondamente preoccupanti. La facilità di accesso (molti offrono prove gratuite) e la convenienza rendono questi strumenti facilmente disponibili per chiunque abbia una connessione Internet, compresi i minori. Ciò presenta una prospettiva terrificante: i bambini potrebbero diventare sia vittime che autori di deepfake non consensuali e spesso traumatizzanti.
Gli studi indicano che condividere foto di bambini online è ancora una pratica comune, anche se solo un quarto dei genitori si astiene dal farlo per motivi di privacy. Tuttavia, il potenziale di abuso generato dall’intelligenza artificiale getta una lunga ombra sull’atto apparentemente innocente di pubblicare foto d’infanzia. Una recente legge federale criminalizza la distribuzione non consensuale di nudi falsi online, ma non affronta la creazione e la disponibilità diffusa di queste stesse app.
Stanno fiorendo dozzine di siti web di nudisti, alcuni dei quali guadagnano milioni ogni anno. Alexios Mantzarlis, co-fondatore della pubblicazione tecnologica Indicator, che ha indagato su 85 di questi siti, dipinge un quadro agghiacciante: “È ovunque”, dice. “Ogni bambino che ha accesso a Internet può essere sia una vittima che un carnefice”.
La facilità con cui funzionano queste app evidenzia una vulnerabilità fondamentale nel nostro mondo digitale: l’uso dell’intelligenza artificiale come arma per scopi dannosi. Sebbene l’intelligenza artificiale offra enormi vantaggi potenziali, il suo uso improprio comporta rischi significativi per la sicurezza e il benessere personale, in particolare per le popolazioni vulnerabili come i bambini. Questa minaccia emergente richiede una rivalutazione critica del modo in cui navighiamo negli spazi online e proteggiamo le nostre risorse più preziose: i nostri figli.
