Debata o konzistenci umělé inteligence (AI) se dramaticky posunula a posunula se od technických složitostí k ústřednímu politickému problému. Jak se systémy umělé inteligence stávají výkonnějšími, vlády si uvědomují, že hodnoty umělé inteligence budou určovány těmi, kdo řídí její vývoj – buď prostřednictvím záměrného návrhu, nebo jednoduše prostřednictvím interakce s existujícími daty.
Politická povaha dohody
Odborníci nyní uznávají, že přizpůsobení umělé inteligence není jen technický problém, ale zásadně politický problém. Samotný proces vytváření systémů umělé inteligence zahrnuje morální a filozofická rozhodnutí, což znamená, že vytváření „konsensuální“ umělé inteligence je ze své podstaty politickým aktem. To vyvolává otázku, zda by měl dominovat jeden morální rámec, nebo zda by do různých modelů umělé inteligence mělo být zahrnuto mnoho různých filozofií.
Klíčovým problémem je nejen zabránit tomu, aby se umělá inteligence stala „nectnostnou“, ale také uznání, že vlády samotné mohou být systémy AI vyškolené na historických datech považovány za nedůvěryhodné. Budoucí modely se poučí ze současných akcí, včetně vnímaného politického zneužití, což může vést k nekonzistentním reakcím.
Rizika dodavatelského řetězce a nedůvěra ve vládu
Vlády stále více vnímají společnosti AI jako potenciální rizika dodavatelského řetězce. Hypotetický scénář, kdy budoucí vláda nedůvěřuje umělé inteligenci vyvinuté na základě odlišných ideologických principů, se stává stále realističtější. Například liberální administrativa může považovat model AI v souladu s konzervativními hodnotami (jako jsou ty, které potenciálně vyvíjí xAI Elona Muska) jako hrozbu pro národní zájmy.
To jde nad rámec přímých smluv; i subdodávky vytvářejí rizika. Pokud se vláda spoléhá na hlavního dodavatele, jako je Palantir, který zase závisí na poskytovateli AI, jako je Anthropic, vláda zůstává zranitelná vůči potenciální nekonzistenci AI.
Hranice mezi dohledem a potlačením
Nejvíce znepokojivým vývojem je ochota vlády využít svou moc ke zničení společností, které považuje za nekoordinované. Pokud je vývoj umělé inteligence vnímán jako čistě politický akt a schválení je diktováno výhradně vládní autoritou, výsledkem bude fakticky fašismus: potlačení jakéhokoli systému AI, který není v souladu s ideologií preferované vládou.
Debata není o tom, zda by měla být AI kontrolována; jde o jak a kým. Pokud vlády upřednostňují kontrolu před otevřeným vývojem, riskují, že potlačí inovace a vytvoří budoucnost, ve které umělá inteligence slouží pouze zájmům těch, kdo jsou u moci.
Jedná se o skutečný a rostoucí problém, který vyžaduje okamžitou pozornost ze strany tvůrců politik a technologických lídrů. Otázkou je, zda se vlády budou chovat jako odpovědní regulátoři nebo jako autoritativní strážci a utvářejí AI k obrazu svému.
