Дебаты о согласованности искусственного интеллекта (ИИ) резко изменились, перейдя от технических сложностей к центральному политическому вопросу. По мере того как ИИ-системы становятся мощнее, правительства осознают, что ценности ИИ будут определяться теми, кто контролирует его разработку — либо посредством намеренного проектирования, либо просто через его взаимодействие с существующими данными.
Политическая природа согласования
Эксперты теперь признают, что согласование ИИ — это не только техническая проблема, а принципиально политическая. Сам процесс создания ИИ-систем включает в себя моральные и философские выборы, а значит, создание «согласованного» ИИ является по своей сути политическим актом. Это поднимает вопрос о том, должна ли доминировать единая моральная основа, или в разные ИИ-модели следует включать множество разнообразных философий.
Ключевая проблема заключается не только в предотвращении превращения ИИ в «недобродетельный», но и в признании того, что правительства сами могут рассматриваться ИИ-системами, обученными на исторических данных, как недостоверные. Будущие модели будут учиться на текущих действиях, включая предполагаемые политические злоупотребления, что потенциально приведет к несогласованным ответам.
Риски цепочки поставок и недоверие к правительству
Правительства все чаще рассматривают ИИ-компании как потенциальные риски цепочки поставок. Гипотетический сценарий, в котором будущее правительство не доверяет ИИ, разработанному под другими идеологическими принципами, становится все более реалистичным. Например, либеральная администрация может рассматривать ИИ-модель, соответствующую консервативным ценностям (например, те, которые потенциально разрабатывает xAI Илона Маска), как угрозу национальным интересам.
Это выходит за рамки прямых контрактов; даже субконтракты создают риски. Если правительство полагается на основного подрядчика, такого как Palantir, который, в свою очередь, зависит от ИИ-провайдера, такого как Anthropic, правительство остается уязвимым для потенциального несогласованности ИИ.
Граница между надзором и подавлением
Самое тревожное развитие — это готовность правительства использовать свою власть для уничтожения компаний, которые оно считает несогласованными. Если разработка ИИ рассматривается как чисто политический акт, а согласование диктуется исключительно государственной властью, результатом фактически будет фашизм: подавление любой ИИ-системы, которая не соответствует предпочтительной идеологии правительства.
Дебаты идут не о том, должен ли ИИ контролироваться; речь идет о том, как и кем. Если правительства отдают приоритет контролю над открытой разработкой, они рискуют задушить инновации и создать будущее, в котором ИИ служит только интересам тех, кто у власти.
Это реальная и растущая проблема, требующая немедленного внимания со стороны политиков и лидеров технологической сферы. Вопрос в том, будут ли правительства действовать как ответственные регулирующие органы или как авторитарные привратники, формируя ИИ по своему образу и подобию.
