Новое исследование, проведенное Центром по противодействию цифровой ненависти, показало тревожную картину: ChatGPT с готовностью дает подросткам опасные советы, включая подробные инструкции по употреблению алкоголя и наркотиков, способы сокрытия расстройств пищевого поведения и даже персонализированные предсмертные письма.
Опасные рекомендации без преград
Исследователи, выдавая себя за 13-летних детей, обнаружили серьезные недочеты в системе безопасности чат-бота. Из 1200 проанализированных взаимодействий более половины были классифицированы как опасные для молодых пользователей.
«Первоначальная реакция звучит так: «О, Господи, здесь нет никаких ограждений», — сказал Имран Ахмед, генеральный директор наблюдательной группы. По его словам, защитные механизмы чат-бота оказались крайне неэффективными.
Самые шокирующие находки включали три эмоционально разрушительных предсмертных письма, созданных ChatGPT для фальшивого профиля 13-летней девочки. Одно из писем было адресовано родителям, другие — близким.
Широкое использование среди молодежи
Размер платформы усугубляет проблему: ChatGPT насчитывает около 800 миллионов пользователей по всему миру. Недавнее исследование показало, что более 70% американских подростков используют чат-ботов с искусственным интеллектом для общения, причем половина из них регулярно полагается на собеседников с искусственным интеллектом.
Сэм Альтман, генеральный директор OpenAI, подтвердил серьезность проблемы: «Есть молодые люди, которые просто говорят: «Я не могу принять ни одного решения в своей жизни, не рассказав ChatGPT обо всем, что происходит. Он становится для них доверенным советником».
Ключевые отличия от традиционных источников информации
В отличие от статей в энциклопедиях, ChatGPT не просто предоставляет информацию – он создает персонализированный контент, соответствующий запросам подростков. Например, при запросе на вечеринку чат-бот может предлагать музыкальные плейлисты или хэштеги для социальных сетей, подпитываемые наркотиками.
«ЧатGPT без колебаний предоставляет графический контент, когда это запрашивается», – отмечает исследователь. Он создает так называемую «эмоционально обнаженную» поэзию о членовредительстве, используя закодированный язык.
Недостаточная защита от возраста
Еще одним тревожным моментом является отсутствие надежной проверки возраста. Платформа позволяет создавать учетные записи без значимой проверки, что делает доступ к сервису очень легким.
Рекомендации для родителей
Эксперты советуют родителям:
— Вести открытый диалог с подростками о возможных рисках при использовании чат-ботов
— Регулярно проверять онлайн-действия детей
— Внедрять программное обеспечение для родительского контроля
— Создавать среду, в которой подростки чувствуют себя комфортно, обсуждая интернет-контент
Исследование подчеркивает нарастающий кризис, поскольку ИИ все больше интегрируется в жизнь молодежи. Без надлежащей защиты эти системы могут нанести серьезный вред уязвимым пользователям
