Уже много лет родители спорят о плюсах и минусах размещения фотографий своих детей онлайн. Хотя опасения по поводу интернет-преступников и сбора данных всегда существовали, появление искусственного интеллекта (ИИ) внесло новый уровень опасности в эту уже привычную дилемму. Возникновение приложений «nudifier», работающих на основе генеративного ИИ, заставляет многих родителей переосмыслить свои интернет-привычки.
Эти приложения могут с легкостью генерировать откровенные изображения лица любого человека, используя всего лишь фотографию. Поначалу они кажутся безобидными, но их последствия очень тревожны. Простота доступа — многие предлагают бесплатные пробные периоды — и доступность делают эти инструменты легкодоступными для всех, кто имеет доступ к интернету, в том числе и несовершеннолетних. Это создает ужасающую перспективу: дети могут стать как жертвами, так и совершителями нежелательных и часто травмирующих «deepfake» изображений.
Исследования показывают, что публикация фотографий детей в Интернете все еще распространена, хотя лишь четверть родителей воздерживаются от этого из-за опасений по поводу конфиденциальности. Тем не менее, потенциал злоупотребления с помощью ИИ создает мрачную тень над кажущимся безобидным действием размещения фотографий из детства. Недавно принятый федеральный закон уголовно наказывает нежелательное распространение фальшивых эротических снимков в сети, но он не затрагивает вопрос создания и широкого распространения таких приложений самих по себе.
Десятки сайтов «nudifier» процветают, некоторые из которых ежегодно зарабатывают миллионы долларов. Алексиос Манцарлис, соучредитель издательства Indicator, которое изучало 85 таких сайтов, рисует пугающую картину: «Это повсюду», — говорит он. “Любой ребенок с доступом к интернету может быть как жертвой, так и преступником.”
Легкость использования этих приложений подчеркивает фундаментальную уязвимость нашего цифрового мира: использование ИИ в корыстных целях. В то время как ИИ обладает огромным потенциалом пользы, его злоупотребление представляет значительные риски для личной безопасности и благополучия, особенно для уязвимых групп населения, таких как дети. Эта новая угроза требует критического пересмотра того, как мы перемещаемся в онлайн-пространстве и защищаем наши самые ценные сокровища — наших детей.
