W epoce, w której sztuczna inteligencja potrafi przekonująco naśladować głosy i twarze, granica między rzeczywistością a cyfrową fałszerstwem coraz bardziej się zaciera. Aby walczyć z tym rosnącym zagrożeniem dla bezpieczeństwa, gigant wideokonferencji Zoom ogłosił partnerstwo z World, firmą zajmującą się weryfikacją tożsamości ludzkiej, której współzałożycielem jest Sam Altman. Celem współpracy jest zapewnienie niezawodnego sposobu na odróżnienie prawdziwych ludzi od deepfakes AI podczas spotkań na żywo.
Rosnące zagrożenie oszustwami typu deepfake
Decyzja ta następuje w obliczu coraz częstszych przypadków wyrafinowanych „oszustw związanych z tożsamością” za pośrednictwem rozmów wideo. Kiedyś deepfakes były wysoce wyspecjalizowanym problemem, obecnie stały się potężnym narzędziem do szpiegostwa korporacyjnego i kradzieży.
Niedawne incydenty uwydatniają destrukcyjny potencjał takich ataków:
– Incydent w Arup: na początku 2024 r. firma inżynieryjna straciła 25 milionów dolarów po tym, jak pracownik z Hongkongu wziął udział w rozmowie wideo, podczas której wszyscy pozostali uczestnicy – w tym rzekomy dyrektor finansowy – w rzeczywistości zostali wygenerowani przez sztuczną inteligencję.
– Szkody finansowe: Oszustwa typu deepfake spowodowały straty przekraczające 200 milionów dolarów tylko w pierwszym kwartale ubiegłego roku.
– Rosnące koszty: Według raportów branżowych średni koszt pojedynczego korporacyjnego incydentu związanego z deepfake’ami przekracza obecnie 500 000 dolarów.
Tendencja ta wskazuje na krytyczną zmianę w cyberbezpieczeństwie: napastnicy nie tylko hakują oprogramowanie, ale hakują ludzką percepcję.
Dlaczego tradycyjne metody wykrywania zawodzą
Obecne metody wykrywania deepfake często opierają się na analizie poszczególnych klatek wideo pod kątem cyfrowych artefaktów lub usterek. Jednak zarówno Zoom, jak i World ostrzegają, że metody te stają się przestarzałe. W miarę udoskonalania modeli generatywnej sztucznej inteligencji uczą się one eliminować właśnie „podpisy”, których szuka tradycyjne oprogramowanie, przez co wykrywanie klatka po klatce staje się coraz mniej niezawodne.
Jak działa technologia Deep Face na świecie
Zamiast po prostu szukać zniekształceń wizualnych, nowa integracja wykorzystuje wielowarstwowy proces weryfikacji znany jako World ID Deep Face. Metoda ta przechodzi od koncepcji „wykrywania fałszywych pikseli” do koncepcji „weryfikacji znanej tożsamości”.
Proces weryfikacji opiera się na trójstronnym porównaniu:
1. Tożsamość początkowa: Bezpieczny obraz uzyskany podczas wstępnej rejestracji użytkownika na urządzeniu World’s „Orb”.
2. Skanowanie na żywo: Skanowanie twarzy na żywo wykonywane bezpośrednio z bieżącego urządzenia użytkownika.
3. Transmisja wideo na żywo: Bezpośrednia transmisja strumienia wideo do innych uczestników spotkania.
System przydziela członkowi odznakę Zweryfikowany Człowiek tylko wtedy, gdy wszystkie trzy elementy są zgodne.
Wdrożenie i kontrola dla użytkowników
Zoom wprowadza te narzędzia, aby zapewnić organizatorom spotkań większą kontrolę nad ich środowiskiem cyfrowym. Nowe funkcje będą obejmować:
– Deep Face Lounge: Organizatorzy mogą wymagać, aby wszyscy uczestnicy przeszli kontrolę tożsamości przed wpuszczeniem na spotkanie.
– Weryfikacja na życzenie: Uczestnicy mogą w trakcie rozmowy poprosić o weryfikację tożsamości innej osoby, jeśli wydają się podejrzane.
Oferując te narzędzia, Zoom ma na celu stworzenie poziomu „cyfrowego zaufania”, który można dostosować w zależności od prywatności spotkania.
„Ta integracja stanowi część podejścia Zoom do otwartego ekosystemu, dając klientom więcej możliwości budowania zaufania do swoich przepływów pracy w oparciu o to, co jest najważniejsze dla ich konkretnych potrzeb” – powiedział rzecznik Zoom Travis Isaman.
Wniosek
Ponieważ technologie sztucznej inteligencji ułatwiają podszywanie się pod menedżerów i współpracowników, partnerstwo Zoom and World stanowi niezbędny zwrot w kierunku weryfikacji tożsamości opartej na biometrii. To posunięcie sygnalizuje przyszłość, w której „zobaczyć znaczy uwierzyć” nie będzie już wystarczające, aby zapewnić bezpieczeństwo w cyfrowej przestrzeni pracy.
