Durante anos, os pais debateram os prós e os contras de postar fotos de seus filhos online. Embora sempre tenham existido preocupações com predadores online e recolha de dados, a ascensão da inteligência artificial (IA) injectou um novo nível de perigo neste dilema familiar. O surgimento de aplicativos “nudificadores”, alimentados por IA generativa, está levando muitos pais a repensar completamente seus hábitos nas redes sociais.
Esses aplicativos podem gerar facilmente imagens explícitas do rosto de qualquer pessoa usando apenas uma fotografia. Embora pareçam inofensivas à primeira vista, as implicações são profundamente preocupantes. A facilidade de acesso (muitos oferecem testes gratuitos) e o preço acessível tornam essas ferramentas prontamente disponíveis para qualquer pessoa com conexão à Internet, incluindo menores. Isto apresenta uma perspectiva assustadora: as crianças podem tornar-se vítimas e perpetradoras de deepfakes não consensuais e muitas vezes traumatizantes.
Estudos indicam que a partilha de fotografias de crianças online ainda é uma prática comum, embora apenas um quarto dos pais se abstenha de o fazer devido a preocupações com a privacidade. No entanto, o potencial de abuso gerado pela IA lança uma longa sombra sobre o ato aparentemente inocente de publicar fotos de infância. Uma lei federal recente criminaliza a distribuição não consensual de nus falsos on-line, mas não aborda a criação e a disponibilidade generalizada desses aplicativos em si.
Dezenas de sites de nudificação estão florescendo, alguns arrecadando milhões anualmente. Alexios Mantzarlis, cofundador da publicação tecnológica Indicator, que investigou 85 desses sites, pinta um quadro assustador: “Está em todo o lado”, diz ele. “Qualquer criança com acesso à Internet pode ser vítima ou perpetrador.”
A facilidade com que estas aplicações operam destaca uma vulnerabilidade fundamental no nosso mundo digital: a transformação da IA em armas para fins maliciosos. Embora a IA ofereça enormes benefícios potenciais, a sua utilização indevida representa riscos significativos para a segurança e o bem-estar pessoal, especialmente para populações vulneráveis como as crianças. Esta ameaça emergente exige uma reavaliação crítica da forma como navegamos nos espaços online e protegemos os nossos bens mais preciosos: os nossos filhos.
