Протягом багатьох років батьки обговорюють переваги та недоліки розміщення фотографій своїх дітей в Інтернеті. Хоча занепокоєння з приводу онлайн-злочинців і збирання даних існувало завжди, поява штучного інтелекту (ШІ) принесла новий рівень небезпеки цій знайомій дилемі. Зростання кількості додатків для створення нудифікаторів на основі генеративного штучного інтелекту змушує багатьох батьків переглянути свої звички в Інтернеті.
Ці програми можуть легко створювати відверті зображення будь-кого обличчя, використовуючи лише фотографію. Спочатку вони здаються нешкідливими, але їх наслідки дуже тривожні. Простота доступу (багато з них пропонують безкоштовні пробні версії) і доступність роблять ці інструменти легко доступними для всіх, хто має доступ до Інтернету, включно з неповнолітніми. Це створює жахливу перспективу: діти можуть стати як жертвами, так і винуватцями небажаних і часто травмуючих «підроблених» зображень.
Дослідження показують, що публікація фотографій дітей в Інтернеті все ще поширена, хоча лише чверть батьків утримуються від цього через проблеми конфіденційності. Однак можливість зловживань ШІ кидає темну тінь на, здавалося б, нешкідливий акт публікації фотографій дитинства. Нещодавно прийнятий федеральний закон передбачає кримінальну відповідальність за небажане розповсюдження фальшивих еротичних зображень в Інтернеті, але він не стосується створення та широкого розповсюдження самих таких програм.
Процвітають десятки сайтів «нудифікаторів», деякі з них заробляють мільйони доларів щорічно. Алексіос Манцарліс, співзасновник Indicator, який вивчив 85 таких сайтів, малює страшну картину: «Це скрізь», — каже він. «Будь-яка дитина, яка має доступ до Інтернету, може бути як жертвою, так і злочинцем».
Простота використання цих програм підкреслює фундаментальну вразливість нашого цифрового світу: використання ШІ для егоїстичної вигоди. Хоча ШІ має величезний потенціал для отримання користі, його неправильне використання створює значні ризики для особистої безпеки та добробуту, особливо для вразливих груп населення, таких як діти. Ця нова загроза вимагає критичного перегляду того, як ми орієнтуємося в онлайн-світі та захищаємо наші найцінніші активи — наших дітей.
