Para muitos pais, compartilhar fotos de seus filhos online já foi uma parte aceita, e até mesmo esperada, da paternidade. Mas uma nova vaga de ferramentas de inteligência artificial (IA) está a mudar o cálculo, obrigando mais famílias – como a minha – a manterem os seus filhos completamente fora das redes sociais.
A questão não é nova: as preocupações com os predadores online e a recolha de dados têm permanecido durante muito tempo em torno do “sharenting”, a prática de partilhar online fotos de crianças. No entanto, esses medos agora são ofuscados por uma ameaça terrivelmente acessível: aplicativos “nudificadores” alimentados por IA. Essas ferramentas podem gerar imagens falsas de nudez hiper-realistas de qualquer pessoa usando apenas alguns instantâneos encontrados nas redes sociais.
Embora muitos pais já possam ser cautelosos com conteúdo explícito, o perigo aqui é duplo. Primeiro, a tecnologia em si é surpreendentemente simples e barata. Muitos aplicativos nudificadores oferecem testes gratuitos, tornando-os prontamente disponíveis até mesmo para adolescentes com acesso limitado a fundos. Em segundo lugar, estas imagens falsas carregam o mesmo peso emocional que as reais – um ponto que ficou evidente por relatos de estudantes que usaram a tecnologia contra os seus colegas de turma, causando imenso trauma.
O dilema ético é gritante: publicar fotos do seu filho online pode inadvertidamente alimentar esta armamento. Mesmo que sua intenção seja inocente, essas fotos podem ser extraídas da internet e usadas de maneiras que você nunca imaginou. Uma nova lei federal criminaliza o compartilhamento on-line de nus falsos não consensuais, mas pouco faz para conter a onda de proliferação desses aplicativos na web. Dezenas de sites de nudificação arrecadam milhões a cada ano, demonstrando um modelo de negócios claro alimentado por nossas ansiedades digitais.
Alexios Mantzarlis, fundador da publicação tecnológica Indicator, resume a assustadora realidade: “Está em todo o lado. Qualquer criança com acesso à Internet pode ser vítima ou perpetrador.”
Esse perigo alimentado pela IA está forçando pais como eu a reconsiderar o ato aparentemente inofensivo de compartilhar fotos online. É um lembrete claro de que o mundo digital se move mais rapidamente do que as leis e a ética conseguem acompanhar, deixando-nos a lutar para proteger as nossas crianças num cenário cada vez mais complexo.
