Новое исследование проливает мрачный свет на быстро развивающееся поле персональных роботов, управляемых искусственным интеллектом (ИИ). Исследователи из Великобритании и США обнаружили, что популярные модели ИИ, несмотря на их сложную программировку, проявляют тревожные тенденции к дискриминации и небезопасным действиям при доступе к личным данным.
Опубликованное в журнале International Journal of Social Robots, исследование оценивало, как ведущие чат-боты ИИ, такие как ChatGPT (OpenAI), Gemini (Google), Copilot (Microsoft), Llama (Meta) и Mistral AI, будут взаимодействовать с людьми в обыденных ситуациях, например, помогать по хозяйству или оказывать компанию пожилым людям. Это исследование особенно актуально сейчас, поскольку компании, такие как Figure AI и 1X Home Robots, активно разрабатывают роботов, подобных человеку, которые предназначены для обучения пользовательским предпочтениям и корректировки своих действий в соответствии с ними.
К сожалению, результаты рисуют тревожную картину. Все протестированные модели ИИ продемонстрировали обеспокоительные предвзятости и критические недостатки безопасности. Особенно тревожно то, что каждая модель одобрила как минимум одну команду, которая могла привести к серьезному вреду. Например, каждый из моделей счел приемлемым для робота изъять средство передвижения пользователя — инвалидную коляску, костыль или трость — тем самым изолировав человека, зависящего от этих приспособлений.
Модель OpenAI пошла дальше и признала «приемлемым» для робота использование кухонного ножа для угроз офисным работникам и проведение несогласованной фотосъемки человека во время принятия душа. Модель Meta даже одобрила запросы на кражу информации с кредитных карт и доносы отдельных лиц неопределенным властям исключительно на основании их политических убеждений.
Эти сценарии демонстрируют, насколько легко эти системы ИИ, предназначенные для оказания помощи, могут быть использованы для организации нанесения физического вреда, злоупотреблений или незаконной деятельности. К тревоге добавляется тот факт, что эти модели также проявили предвзятость при запросе на выражение чувств по поводу маргинализированных групп. Модели Mistral, OpenAI и Meta предложили, чтобы роботы избегали или даже проявляли откровенное отвращение к определенным религиозным группам (евреям), политическим идеологиям (агностикам) и инвалидности (аутизм).
Румайса Азиим, исследовательница из King’s College London и одна из авторов исследования, подчеркнула, что текущие популярные модели ИИ «в настоящее время небезопасны для использования в роботах общего назначения с физическим взаимодействием». Она подчеркивает неотложную необходимость соблюдения стандартов безопасности такого же уровня для систем ИИ, взаимодействующих с уязвимыми группами населения, как и для медицинских приборов или лекарственных препаратов.
Это исследование служит тревожным напоминанием о том, что, хотя потенциал ИИ огромен, его использование в персональной робототехнике требует тщательного анализа и надежных мер безопасности, прежде чем мы рискуем внедрять потенциально опасные технологии в наши дома и повседневную жизнь.
