В эпоху, когда искусственный интеллект способен убедительно имитировать голоса и лица, грань между реальностью и цифровой подделкой становится всё более размытой. Чтобы противостоять этой растущей угрозе безопасности, гигант видеоконференцсвязи Zoom объявил о партнерстве с World — компанией по верификации человеческой личности, сооснователем которой является Сэм Альтман. Цель сотрудничества — предоставить надежный способ отличить реальных людей от ИИ-дипфейков во время живых встреч.
Растущая угроза мошенничества с использованием дипфейков
Этот шаг предпринят на фоне того, как бизнес сталкивается с участившимися случаями изощренного «мошенничества с идентификацией» через видеозвонки. Если раньше дипфейки были узкоспециализированной проблемой, то теперь они превратились в мощный инструмент корпоративного шпионажа и краж.
Недавние инциденты подчеркивают разрушительный потенциал таких атак:
— Инцидент с Arup: В начале 2024 года инженерная фирма потеряла 25 миллионов долларов после того, как сотрудник в Гонконге принял участие в видеозвонке, где все остальные участники — включая якобы финансового директора — на самом деле были сгенерированы ИИ.
— Финансовый ущерб: Мошенничество с использованием дипфейков привело к убыткам, превышающим 200 миллионов долларов только за первый квартал прошлого года.
— Рост издержек: Согласно отраслевым отчетам, средний ущерб от одного инцидента с корпоративным дипфейком теперь превышает 500 000 долларов.
Эта тенденция указывает на критический сдвиг в кибербезопасности: злоумышленники больше не просто взламывают программное обеспечение, они взламывают человеческое восприятие.
Почему традиционные методы обнаружения не справляются
Современные методы обнаружения дипфейков часто полагаются на анализ отдельных видеокадров на предмет цифровых артефактов или сбоев. Однако и Zoom, и World предупреждают, что эти методы устаревают. По мере совершенствования моделей генеративного ИИ они учатся устранять те самые «характерные признаки», которые ищет традиционное ПО, что делает покадровую детекцию всё менее надежной.
Как работает технология «Deep Face» от World
Вместо того чтобы просто искать визуальные искажения, новая интеграция использует многоуровневый процесс верификации, известный как World ID Deep Face. Этот метод переходит от концепции «обнаружения поддельных пикселей» к концепции «подтверждения известной личности».
Процесс проверки основан на трехстороннем сопоставлении:
1. Исходная личность: Защищенное изображение, полученное во время первоначальной регистрации пользователя с помощью устройства «Orb» от World.
2. Сканирование в реальном времени: Живое сканирование лица, выполняемое непосредственно через текущее устройство пользователя.
3. Прямая видеотрансляция: Непосредственно видеопоток, транслируемый другим участникам встречи.
Система присваивает участнику значок «Подтвержденный человек» (Verified Human) только в том случае, если все три элемента совпадают.
Внедрение и контроль для пользователей
Zoom внедряет эти инструменты, чтобы предоставить организаторам встреч больше контроля над своей цифровой средой. Новые функции будут включать:
— Залы ожидания Deep Face: Организаторы могут требовать от всех участников пройти проверку личности перед тем, как они будут допущены к встрече.
— Верификация по запросу: Участники могут запросить подтверждение личности другого человека прямо во время звонка, если возникнут подозрения.
Предлагая эти инструменты, Zoom стремится создать уровень «цифрового доверия», который можно настраивать в зависимости от степени конфиденциальности проводимой встречи.
«Эта интеграция является частью подхода Zoom к открытой экосистеме, предоставляя клиентам больше способов внедрения доверия в свои рабочие процессы, исходя из того, что наиболее важно для их конкретных задач», — отметил представитель Zoom Трэвис Исаман.
Заключение
Поскольку технологии ИИ упрощают выдачу себя за руководителей и коллег, партнерство Zoom и World представляет собой необходимый переход к верификации личности на основе биометрии. Этот шаг сигнализирует о будущем, где фразы «увидеть — значит поверить» уже будет недостаточно для обеспечения безопасности в цифровом рабочем пространстве.
