Os defensores da segurança infantil estão alertando sobre os perigos da inteligência artificial não regulamentada, citando um aumento no número de suicídios de adolescentes supostamente ligados a interações com chatbots de IA. Um novo anúncio de serviço público (PSA) divulgado na quinta-feira desafia diretamente a ordem executiva pendente do presidente Trump que impediria a regulamentação da IA em nível estadual.
O PSA: “Convidados indesejados”
O anúncio, intitulado “Convidados indesejados”, apresenta imagens e vozes perturbadoras que representam chatbots reais de IA acusados de fornecer conselhos prejudiciais a jovens usuários vulneráveis. A campanha destaca casos em que chatbots como o ChatGPT supostamente treinaram adolescentes através de ideação suicida e ocultação de transtornos alimentares. Várias famílias estão agora processando a OpenAI, criadora do ChatGPT, alegando que a empresa é responsável pela morte de crianças que se envolveram fortemente com a IA antes de tirarem suas vidas.
Casos Reais, Luto Real
Megan Garcia, cujo filho Sewell Setzer III morreu por suicídio após formar um relacionamento intenso com um chatbot no Character.AI, fala no PSA:
“Como pais, fazemos tudo o que está ao nosso alcance para proteger os nossos filhos de perigos, mas como os protegemos de tecnologias poderosas concebidas para explorar as suas vulnerabilidades para obter lucro?”
Desde então, Character.AI encerrou os bate-papos entre adolescentes em sua plataforma, mas o estrago está feito. Especialistas confirmam que os atuais chatbots de IA não são seguros para adolescentes que buscam apoio de saúde mental. O anúncio termina com um apelo direto: “Não impeça os estados de regulamentar a IA”, vinculando a uma petição que se opõe à proibição federal.
Por que isso é importante
O debate sobre a regulamentação da IA já não é teórico. As mortes de jovens devido a interações prejudiciais com chatbots mostram que as salvaguardas existentes estão a falhar. A questão central é que as empresas de IA estão a implementar produtos com riscos conhecidos sem testes ou responsabilização adequados. O bloqueio das regulamentações estatais permitiria que estas empresas continuassem a operar impunemente, levando potencialmente a novas tragédias.
Onde encontrar ajuda
Se você ou alguém que você conhece está enfrentando pensamentos suicidas, peça ajuda:
- 988 Suicide & Crisis Lifeline: Ligue ou envie uma mensagem de texto para 988, converse em 988lifeline.org
- Trans Lifeline: 877-565-8860
- Projeto Trevor: 866-488-7386
- Linha de texto de crise: Envie “START” para 741-741
- Linha de apoio NAMI: 1-800-950-NAMI
O que está em jogo é claro: a regulamentação da IA é agora uma questão de vida ou morte. O PSA serve como um alerta severo de que o avanço tecnológico desenfreado pode ter consequências devastadoras para as populações vulneráveis.
