В епоху, коли штучний інтелект здатний переконливо імітувати голоси та обличчя, грань між реальністю та цифровою підробкою стає дедалі розмитішою. Щоб протистояти цій загрозі безпеці, що зростає, гігант відеоконференцзв’язку Zoom оголосив про партнерство з World — компанією з верифікації людської особистості, співзасновником якої є Сем Альтман. Мета співпраці – надати надійний спосіб відрізнити реальних людей від ІІ-дипфейків під час живих зустрічей.
Зростання загрози шахрайства з використанням дипфейків
Цей крок зроблено на тлі того, як бізнес стикається з випадками витонченого «шахрайства з ідентифікацією» через відеодзвінки. Якщо раніше дипфейки були вузькоспеціалізованою проблемою, то тепер вони перетворилися на потужний інструмент корпоративного шпигунства та крадіжок.
Нещодавні інциденти наголошують на руйнівному потенціалі таких атак:
– Інцидент з Arup: На початку 2024 року інженерна фірма втратила 25 мільйонів доларів після того, як співробітник у Гонконгу взяв участь у відеодзвінку, де решта учасників — включаючи нібито фінансового директора — насправді було згенеровано ІІ.
– Фінансові збитки: Шахрайство з використанням дипфейків призвело до збитків, що перевищують 200 мільйонів доларів лише за перший квартал минулого року.
– Зростання витрат: Згідно з галузевими звітами, середня шкода від одного інциденту з корпоративним дипфейком тепер перевищує 500 000 доларів.
Ця тенденція вказує на критичний зсув у кібербезпеці: зловмисники більше не просто зламують програмне забезпечення, вони зламують людське сприйняття.
Чому традиційні методи виявлення не справляються
Сучасні методи виявлення дипфейків часто покладаються на аналіз окремих відеокадрів щодо цифрових артефактів або збоїв. Однак і Zoom, і World попереджають, що ці методи старіють. У міру вдосконалення моделей генеративного ІІ вони вчаться усувати ті самі «характерні ознаки», які шукає традиційне програмне забезпечення, що робить покадрову детекцію все менш надійною.
Як працює технологія «Deep Face» від World
Замість просто шукати візуальні спотворення, нова інтеграція використовує багаторівневий процес верифікації, відомий як World ID Deep Face. Цей метод переходить від концепції виявлення підроблених пікселів до концепції підтвердження відомої особистості.
Процес перевірки ґрунтується на тристоронньому зіставленні:
1. Вихідна особа: Захищене зображення, отримане під час початкової реєстрації користувача за допомогою пристрою Orb від World.
2. Сканування в реальному часі: Живе сканування обличчя, яке виконується безпосередньо через поточний пристрій користувача.
3. Пряма відеотрансляція: Безпосередньо відеопотік, який транслюється іншим учасникам зустрічі.
Система присвоює учаснику значок «Підтверджена людина» (Verified Human) лише в тому випадку, якщо всі три елементи збігаються.
Впровадження та контроль для користувачів
Zoom впроваджує ці інструменти, щоб надати організаторам зустрічей більше контролю над своїм цифровим середовищем. Нові функції включатимуть:
– Зали очікування Deep Face: Організатори можуть вимагати від усіх учасників пройти перевірку особи перед тим, як їх буде допущено до зустрічі.
– Верифікація на запит: Учасники можуть запросити підтвердження особи іншої людини прямо під час дзвінка, якщо виникнуть підозри.
Пропонуючи ці інструменти, Zoom прагне створити рівень «цифрової довіри», який можна настроювати в залежності від ступеня конфіденційності зустрічі, що проводиться.
«Ця інтеграція є частиною підходу Zoom до відкритої екосистеми, надаючи клієнтам більше способів впровадження довіри у свої робочі процеси, виходячи з того, що найбільш важливо для їх конкретних завдань», – зазначив представник Zoom Тревіс Ісаман.
Висновок
Оскільки технології ІІ спрощують видачу себе за керівників та колег, партнерство Zoom та World є необхідним перехід до верифікації особистості на основі біометрії. Цей крок сигналізує про майбутнє, де фрази «побачити — значить повірити» вже недостатньо для забезпечення безпеки в цифровому робочому просторі.
