Глава Instagram Адам Моссери предупредил, что искусственный интеллект стремительно опережает человеческое восприятие, что делает все более сложным различение между реальными и сфабрикованными изображениями. В итоговой оценке за год Моссери подробно описал, как платформе, создателям контента и производителям камер необходимо адаптироваться к будущему, где подлинность легко подделывается. Это касается не только эстетики; речь идет о фундаментальном доверии, которое пользователи оказывают визуальному контенту.
Разрушение Доверия к Визуальному Контенту
Моссери подчеркивает критический сдвиг: ИИ теперь способен безупречно имитировать как отполированную, так и «сырую» эстетику, включая неприглядные изображения. Это означает, что традиционные признаки подлинности, такие как недостатки, становятся ненадежными. Вывод ясен: платформам придется переходить от того, что показывается, к тому, кто это публикует. Моссери признает, что этот переход займет годы, поскольку люди «генетически предрасположены верить своим глазам».
Технологические Решения: Криптографические Подписи и Рейтинг Подлинности
Для борьбы с потоком контента, сгенерированного ИИ, Моссери предлагает два ключевых технологических решения. Во-первых, производителям камер следует внедрить криптографические подписи, чтобы установить проверяемую цепочку владения для изображений. Это докажет, было ли изображение снято реальным устройством или сгенерировано ИИ. Во-вторых, Instagram должен уделять приоритетное внимание «сигналам доверия», ранжируя оригинальный контент выше и четко маркируя материал, созданный ИИ. Цель не в том, чтобы остановить ИИ, а в том, чтобы сделать его прозрачным.
Парадокс Профессионализма
Интересно, что Моссери критикует производителей камер за конкуренцию в том, чтобы сделать любительскую фотографию профессиональной. Он утверждает, что привлекательные, чрезмерно обработанные изображения становятся менее вовлекающими ; аудитория жаждет подлинности, даже если это означает несовершенные визуальные эффекты. Это говорит о том, что гонка вооружений в сторону гиперреалистичных изображений, созданных ИИ, является саморазрушительной. Спрос на «реальный» контент заставит ИИ имитировать несовершенство, еще больше стирая грань между подлинным и синтетическим.
Ответ Instagram: Гонка со Временем
Instagram, принадлежащий Meta, уже борется с контентом, созданным ИИ. Борьба платформы отражает борьбу других социальных медиагигантов, где контент, сгенерированный ИИ, и дипфейки подавляют органический контент. Моссери излагает четырехпунктный план адаптации:
- Разработать инструменты, которые помогут создателям контента конкурировать с контентом, созданным ИИ.
- Четко маркировать контент, созданный ИИ.
- Сотрудничать с производителями, чтобы проверять подлинность на этапе захвата изображения.
- Улучшить алгоритмы ранжирования, чтобы вознаграждать оригинальность.
“Instagram придется развиваться во многих отношениях и быстро”, — заключает Моссери.
Это не просто техническая задача; это битва за доверие в цифровом мире, где визуальные доказательства больше не надежны. Будущее социальных сетей зависит от того, смогут ли платформы адаптироваться до того, как пользователи полностью потеряют доверие к тому, что они видят.
