Для многих родителей публикация фотографий своих детей в интернете была когда-то приемлемой, даже ожидаемой частью родительства. Но новая волна инструментов искусственного интеллекта (ИИ) меняет ситуацию, побуждая всё больше семей — как и мою — полностью исключать детей из социальных сетей.
Вопрос не является новым: опасения по поводу интернет-преступников и сбора данных давно витали вокруг «шарентинга» — практики публикации фотографий детей в сети. Однако эти страхи сейчас затмевает пугающе доступная угроза: приложения ИИ, называемые «нудификаторами». Эти инструменты могут генерировать гиперреалистичные поддельные обнажённые изображения любого человека, используя всего лишь несколько снимков, найденных в социальных сетях.
Хотя многие родители уже могли опасаться появлений порнографического контента, опасность здесь twofold. Во-первых, сама технология невероятно проста и дешёва. Многие приложения «нудификаторов» предлагают бесплатные пробные версии, что делает их доступными даже подросткам с ограниченными финансовыми средствами. Во-вторых, эти поддельные изображения несут ту же эмоциональную нагрузку, что и настоящие — о чём свидетельствуют сообщения о том, как студенты используют эту технологию против своих одноклассников, нанося огромный психологический ущерб.
Этическая дилемма ясна: публикация фотографий своего ребёнка в сети может непреднамеренно способствовать этой оружейной переделке. Даже если ваше намерение безобидное, эти снимки могут быть вырваны из интернета и использованы способами, которые вы никогда не могли себе представить. Новый федеральный закон ужесточает наказание за распространение непринуждённых поддельных обнажённостей в Интернете, но мало что делает для сдерживания роста таких приложений по всему веб-пространству. Доzens «нудификаторов» зарабатывают миллионы каждый год, демонстрируя явную бизнес-модель, питаемую нашими цифровыми тревогами.
Алексиос Мантзарлис, основатель технологического издания Indicator, подытоживает пугающую реальность: «Это повсюду. Любой ребёнок с доступом к интернету может быть как жертвой, так и преступником».
Эта угроза, порождённая ИИ, заставляет родителей, подобных мне, переосмыслить кажущееся безобидным действие публикации фотографий в сети. Это резкий сигнал о том, что цифровой мир движется быстрее, чем законы и этика могут его контролировать, оставляя нас борющимися за защиту наших детей в всё более сложном ландшафте.
