Adam Mosseri, responsable d’Instagram, a averti que l’intelligence artificielle dépasse rapidement la perception humaine, ce qui rend de plus en plus difficile la distinction entre les images réelles et fabriquées. Dans une évaluation de fin d’année, Mosseri a expliqué comment la plateforme, les créateurs et les fabricants d’appareils photo doivent s’adapter à un avenir où l’authenticité est facilement reproductible. Ce n’est pas seulement une question d’esthétique ; il s’agit de la confiance fondamentale que les utilisateurs accordent au contenu visuel.
L’érosion de la confiance visuelle
Mosseri met en évidence un changement critique : L’IA peut désormais imiter parfaitement l’esthétique à la fois raffinée et « brute », y compris les images peu flatteuses. Cela signifie que les indices traditionnels permettant d’identifier l’authenticité, tels que les imperfections, deviennent peu fiables. L’implication est claire : les plateformes devront aller au-delà de ce qui est affiché et se concentrer sur qui le publie. Cette transition, admet Mosseri, prendra des années, car les humains sont « génétiquement prédisposés à en croire leurs yeux ».
Solutions technologiques : signatures cryptographiques et classement d’originalité
Pour lutter contre le flot de contenus générés par l’IA, Mosseri suggère deux solutions technologiques clés. Premièrement, les fabricants d’appareils photo devraient mettre en œuvre des signatures cryptographiques pour établir une chaîne de propriété vérifiable pour les images. Cela prouverait si une image a été capturée par un appareil réel ou générée par l’IA. Deuxièmement, Instagram doit donner la priorité aux « signaux de crédibilité », en classant le contenu original plus haut et en étiquetant clairement le matériel généré par l’IA. Le but n’est pas d’arrêter l’IA mais de la rendre transparente.
Le paradoxe du professionnalisme
Il est intéressant de noter que Mosseri reproche aux fabricants d’appareils photo de rivaliser pour donner à la photographie amateur un aspect professionnel. Il soutient que les images flatteuses et surproduites deviennent moins attrayantes ; le public a soif d’authenticité, même si cela signifie des visuels imparfaits. Cela suggère que la course aux armements vers des images hyperréalistes de l’IA est vouée à l’échec. La demande de contenu « réel » forcera l’IA à imiter l’imperfection, brouillant encore davantage les frontières entre authentique et synthétique.
Réponse d’Instagram : une course contre la montre
Instagram, propriété de Meta, est déjà aux prises avec le contenu généré par l’IA. Le combat de la plateforme reflète celui d’autres géants des médias sociaux, où le spam et les deepfakes générés par l’IA dominent le contenu organique. Mosseri présente un plan d’adaptation en quatre points :
- Développer des outils pour aider les créateurs à rivaliser avec le contenu généré par l’IA.
- Étiquetez clairement le contenu généré par l’IA.
- Collaborer avec les fabricants pour vérifier l’authenticité au point de capture.
- Améliorez les algorithmes de classement pour récompenser l’originalité.
« Instagram va devoir évoluer de plusieurs manières, et rapidement », conclut Mosseri.
Il ne s’agit pas simplement d’un défi technique ; c’est une bataille pour la confiance dans un monde numérique où les preuves visuelles ne sont plus fiables. L’avenir des médias sociaux dépend de la capacité des plateformes à s’adapter avant que les utilisateurs ne deviennent totalement sceptiques quant à ce qu’ils voient.
