Depuis des années, les parents débattent des avantages et des inconvénients de la publication en ligne de photos de leurs enfants. Même si les inquiétudes concernant les prédateurs en ligne et la collecte de données ont toujours existé, la montée de l’intelligence artificielle (IA) a injecté un nouveau niveau de danger dans ce dilemme familier. L’émergence d’applications « nudifier », alimentées par l’IA générative, incite de nombreux parents à repenser complètement leurs habitudes en matière de médias sociaux.
Ces applications peuvent générer sans effort des images explicites représentant le visage de n’importe qui en utilisant simplement une photographie. Même si elles semblent inoffensives à première vue, leurs implications sont profondément troublantes. La facilité d’accès (beaucoup proposent des essais gratuits) et le prix abordable rendent ces outils facilement accessibles à toute personne disposant d’une connexion Internet, y compris les mineurs. Cela présente une perspective terrifiante : les enfants pourraient devenir à la fois victimes et auteurs de deepfakes non consensuels et souvent traumatisants.
Des études indiquent que le partage de photos d’enfants en ligne reste une pratique courante, même si seulement un quart des parents s’abstiennent de le faire pour des raisons de confidentialité. Cependant, le potentiel d’abus généré par l’IA jette une ombre sur l’acte apparemment innocent de publier des photos d’enfance. Une récente loi fédérale criminalise la distribution non consensuelle de faux nus en ligne, mais elle ne traite pas de la création et de la large disponibilité de ces applications elles-mêmes.
Des dizaines de sites Web de nudification fleurissent, certains engrangeant des millions chaque année. Alexios Mantzarlis, co-fondateur de la publication technologique Indicator, qui a enquêté sur 85 de ces sites, dresse un tableau effrayant : « Il y en a partout », dit-il. “Tout enfant ayant accès à Internet peut être à la fois une victime ou un agresseur.”
La facilité avec laquelle ces applications fonctionnent met en évidence une vulnérabilité fondamentale de notre monde numérique : la militarisation de l’IA à des fins malveillantes. Même si l’IA offre d’énormes avantages potentiels, son utilisation abusive présente des risques importants pour la sécurité et le bien-être des personnes, en particulier pour les populations vulnérables comme les enfants. Cette menace émergente nécessite une réévaluation critique de la façon dont nous naviguons dans les espaces en ligne et protégeons nos biens les plus précieux : nos enfants.
