Platforma mediów społecznościowych Elona Muska, X (dawniej Twitter), zdecydowała się ograniczyć swojemu chatbotowi AI Grok możliwość tworzenia wulgarnych lub seksualnych obrazów prawdziwych ludzi w niektórych regionach. Zmiana ta jest następstwem powszechnego międzynarodowego potępienia i kontroli regulacyjnej dotyczącej rozprzestrzeniania się na platformie treści generowanych przez sztuczną inteligencję.
Globalne dochodzenia prowadzą do odpowiedzi
W ciągu ostatniego tygodnia organy regulacyjne na całym świecie rozpoczęły badanie możliwości Groka. Niektóre kraje całkowicie zakazały aplikacji, powołując się na obawy dotyczące jej potencjału do nadużyć. W Stanach Zjednoczonych śledczy z Kalifornii sprawdzają, czy Grok naruszył przepisy stanowe dotyczące nieautoryzowanych zdjęć.
Niezależny brytyjski organ nadzorujący Internet, Ofcom, wszczął w poniedziałek własne dochodzenie, stwarzając poważne zagrożenie prawne dla X. Ofcom stwierdził, że jeśli X nie zastosuje się do jego wezwań do działania, organ regulacyjny ma prawo podjąć działania prawne, co może doprowadzić do wstrzymania transakcji płatniczych i przychodów z reklam platformy. Jest to znacząca eskalacja, ponieważ zagraża działalności finansowej X.
Geoblokowanie jako rozwiązanie
X ogłosił w środę, że wdraża „blokowanie geograficzne”, ograniczając zdolność Groka do spełniania żądań dotyczących problematycznych zdjęć w jurysdykcjach, w których takie treści są nielegalne. Oznacza to, że użytkownicy w niektórych krajach nie będą mogli zmusić sztucznej inteligencji do tworzenia wyraźnych obrazów prawdziwych ludzi.
Dlaczego to ma znaczenie: szybki rozwój narzędzi do generowania obrazów AI stwarza nowe wyzwania w zakresie moderacji treści i ram prawnych. Organy regulacyjne starają się obecnie dostosować do tempa rozwoju tych technologii, a firmy takie jak X znajdują się pod coraz większą presją, aby zapewnić zgodność z normami.
Odpowiedź platformy podkreśla rosnące napięcie między innowacjami, wolnością słowa i zgodnością z prawem w dobie sztucznej inteligencji. Globalna krytyka pokazuje, że niekontrolowane tworzenie przez sztuczną inteligencję treści jawnych nie jest już realną opcją w przypadku głównych platform mediów społecznościowych.
