Durante años, los padres han debatido los pros y los contras de publicar fotografías de sus hijos en línea. Si bien siempre han existido preocupaciones sobre los depredadores en línea y la recopilación de datos, el auge de la inteligencia artificial (IA) ha inyectado un nuevo nivel de peligro a este dilema familiar. La aparición de aplicaciones “nudificadoras”, impulsadas por IA generativa, está llevando a muchos padres a repensar por completo sus hábitos en las redes sociales.
Estas aplicaciones pueden generar sin esfuerzo imágenes explícitas del rostro de cualquier persona utilizando solo una fotografía. Si bien a primera vista parece inofensivo, las implicaciones son profundamente preocupantes. La facilidad de acceso (muchas ofrecen pruebas gratuitas) y la asequibilidad hacen que estas herramientas estén disponibles para cualquier persona con una conexión a Internet, incluidos los menores. Esto presenta una perspectiva aterradora: los niños podrían convertirse tanto en víctimas como en perpetradores de deepfakes no consensuales y a menudo traumatizantes.
Los estudios indican que compartir fotografías de niños en línea sigue siendo una práctica común, aunque sólo una cuarta parte de los padres se abstienen de hacerlo por motivos de privacidad. Sin embargo, el potencial de abuso generado por la IA arroja una larga sombra sobre el acto aparentemente inocente de publicar fotos de la infancia. Una ley federal reciente penaliza la distribución no consentida de desnudos falsos en línea, pero no aborda la creación y disponibilidad generalizada de estas aplicaciones en sí.
Están floreciendo decenas de sitios web nudificadores, algunos de los cuales recaudan millones al año. Alexios Mantzarlis, cofundador de la publicación tecnológica Indicator, que investigó 85 sitios de este tipo, pinta un panorama escalofriante: “Está en todas partes”, dice. “Cualquier niño con acceso a Internet puede ser tanto una víctima como un perpetrador”.
La facilidad con la que operan estas aplicaciones pone de relieve una vulnerabilidad fundamental en nuestro mundo digital: la utilización de la IA como arma con fines maliciosos. Si bien la IA ofrece enormes beneficios potenciales, su uso indebido plantea riesgos importantes para la seguridad y el bienestar personal, en particular para las poblaciones vulnerables como los niños. Esta amenaza emergente requiere una reevaluación crítica de cómo navegamos en los espacios en línea y protegemos nuestros bienes más preciados: nuestros hijos.
