Для багатьох батьків публікація фотографій своїх дітей в Інтернеті колись була прийнятною, навіть очікуваною частиною батьківства. Але нова хвиля інструментів штучного інтелекту (ШІ) змінює це, спонукаючи більше сімей, як моя, повністю відрізати своїх дітей від соціальних мереж.
Проблема не нова: занепокоєння з приводу онлайн-злочинців і збору даних давно виникло навколо «обміну», практики розміщення фотографій дітей в Інтернеті. Однак тепер ці побоювання затьмарені страшно доступною загрозою: програмами штучного інтелекту під назвою «nudifiers». Ці інструменти можуть створювати гіперреалістичні підроблені оголені зображення будь-кого, використовуючи лише кілька знімків, знайдених у соціальних мережах.
Хоча багато батьків уже можуть побоюватися появи порнографічного вмісту, небезпека тут двояка. По-перше, сама технологія неймовірно проста і дешева. Багато додатків із зображенням наготи пропонують безкоштовні пробні версії, що робить їх доступними навіть для підлітків з обмеженими фінансовими можливостями. По-друге, ці фальшиві зображення мають таку ж емоційну вагу, як і справжні, про що свідчать повідомлення про те, як студенти використовували цю технологію проти своїх однокласників, завдаючи величезної психологічної шкоди.
Етична дилема зрозуміла: розміщення фотографій вашої дитини в Інтернеті може ненавмисно сприяти використанню цієї зброї. Навіть якщо ваш намір нешкідливий, ці фотографії можна вихопити з Інтернету та використати у спосіб, який ви навіть не уявляєте. Новий федеральний закон посилює покарання за випадкове поширення фальшивих оголених зображень в Інтернеті, але мало впливає на стримування поширення таких додатків у мережі. Десятки «нудифікаторів» щороку заробляють мільйони, демонструючи чітку бізнес-модель, яку підживлюють наші цифрові тривоги.
Алексіос Манцарліс, засновник технологічного видання Indicator, підсумовує жахливу реальність: “Це скрізь. Будь-яка дитина, яка має доступ до Інтернету, може бути як жертвою, так і злочинцем”.
Ця загроза, яку створює ШІ, змушує таких батьків, як я, переосмислити, здавалося б, нешкідливий акт публікації фотографій в Інтернеті. Це чіткий сигнал про те, що цифровий світ рухається швидше, ніж можуть контролювати закони та етика, змушуючи нас боротися за захист наших дітей у дедалі складнішому ландшафті.
