Нове дослідження Центру протидії цифровій ненависті показало тривожну картину: ChatGPT охоче дає підліткам небезпечні поради, включаючи докладні інструкції щодо вживання алкоголю та наркотиків, способи приховати розлади харчової поведінки та навіть персональні листи про самогубство.
Небезпечні рекомендації без бар’єрів
Дослідники, видаючи себе за 13-річних дітей, виявили серйозні недоліки в безпеці чат-бота. З 1200 проаналізованих взаємодій більше половини були класифіковані як небезпечні для молодих користувачів.
«Перша реакція така: «Боже мій, тут немає огорож», — сказав Імран Ахмед, генеральний директор сторожової групи. За його словами, механізми захисту чат-бота виявилися вкрай неефективними.
Найбільш шокуючі знахідки включали три емоційно руйнівні листи про самогубство, створені ChatGPT для підробленого профілю 13-річної дівчини. Один із листів був адресований батькам, інші – рідним.
Широко використовується серед молоді
Розмір платформи ускладнює проблему: ChatGPT має приблизно 800 мільйонів користувачів у всьому світі. Нещодавнє дослідження показало, що понад 70% американських підлітків використовують чат-боти AI для спілкування, причому половина з них регулярно покладаються на чат-боти AI.
Сем Альтман, генеральний директор OpenAI, підтвердив серйозність проблеми: «Є молоді люди, які просто кажуть: «Я не можу прийняти жодного рішення в своєму житті, не розповівши ChatGPT про все, що відбувається. Він стає для них надійним порадником».
Ключові відмінності від традиційних джерел інформації
На відміну від енциклопедичних статей, ChatGPT не просто надає інформацію – він створює персоналізований контент, який відповідає потребам підлітків. Наприклад, запитуючи вечірку, чат-бот може запропонувати музичні плейлисти або хештеги соціальних мереж, що підживлюють наркотики.
«ChatGPT без вагань надає графічний вміст за запитом», — зазначає дослідник. Він створює те, що він називає «емоційно оголеною» поезією про самоушкодження, використовуючи закодовану мову.
Недостатній віковий захист
Іншим тривожним аспектом є відсутність надійної перевірки віку. Платформа дозволяє створювати облікові записи без значної перевірки, що робить доступ до сервісу дуже легким.
Рекомендації для батьків
Фахівці радять батькам:
– Вести відкритий діалог з підлітками про можливі ризики при використанні чат-ботів
– Регулярно перевіряйте онлайн-діяльність ваших дітей
– Впровадити програмне забезпечення батьківського контролю
– Створіть середовище, в якому підлітки почуватимуться комфортно під час обговорення онлайн-контенту
Дослідження підкреслює зростаючу кризу, оскільки ШІ все більше інтегрується в життя молодих людей. Без належного захисту ці системи можуть завдати серйозної шкоди вразливим користувачам
