Cientos de apps «inocentes» de IA escondían funciones para crear desnudos falsos
Una investigación de Wired encontró una red de unas 400 apps y sitios que se hacían pasar por herramientas comunes y escondían deepfakes sexuales.
Una investigación de Wired encontró una red de más de 400 apps y sitios que se presentaban como herramientas comunes de IA, como retratos de mascotas o clases de idiomas, pero que escondían funciones para crear imágenes y videos sexuales falsos a partir de fotos de personas reales.
Según Wired, las apps estaban en las tiendas de Apple y Google, y se promocionaban con anuncios en Facebook e Instagram. La red parece operar desde hace alrededor de un año, por desarrolladores de habla china y una empresa registrada en Hong Kong, KeLing Technology Limited, que no respondió a Wired.
Cómo funcionaban
Al descargar la app, se veía lo anunciado. Pero, de acuerdo con los investigadores, la app consultaba a un servidor que decidía si mostrar la versión normal o una interfaz oculta para generar contenido sexual con las fotos que subía el usuario. Una forma de activarla era llegar desde ciertos anuncios.
Según la investigación, en septiembre había 27 de estas apps en Google Play, con más de 350 000 descargas en total, y muchas estaban clasificadas como aptas para todas las edades. Wired reportó antes que algunos de los anuncios incluían material de abuso sexual infantil generado con IA.
Qué hicieron las empresas
- Google retiró la mayoría de las apps antes de que Wired la contactara, y no respondió a sus preguntas.
- Apple retiró 19 apps y explicó que cumplían sus reglas cuando las revisó, pero que sus desarrolladores cambiaron después el contenido.
- Meta dijo que vetó a KeLing de su publicidad en 2025 y que actuó contra 11 600 cuentas publicitarias y bloqueó 209 apps.
Wired advierte que, al cerrar su reportaje, seguían apareciendo anuncios y apps similares.
Cómo proteger a tu familia
- Activa la aprobación de descargas. En iPhone, con «Compartir en familia» y la opción «Preguntar antes de comprar»; en Android, con Google Family Link. Así un adulto aprueba cada app que bajan los menores.
- Platica con tus hijos. Explícales que no deben subir fotos suyas ni de otras personas a apps de IA, aunque parezcan un juego.
- Cuida las fotos que publicas. Revisa qué fotos familiares están en perfiles abiertos y considera dejarlas solo para tus contactos.
- Si pasa algo, no lo enfrenten solos. Guarda evidencia, reporta el contenido en la plataforma y acude a las autoridades.
La opinión de Mario
Esta noticia es de las más graves que hemos publicado sobre IA. Que estas apps pasaran la revisión de las tiendas y se anunciaran en redes muestra que no podemos confiar solo en los filtros de las plataformas.
Como alguien que trabaja todos los días con redes sociales, mi recomendación es pensar dos veces antes de publicar fotos en abierto, sobre todo de menores, y hablar del tema en casa sin miedo. La prevención empieza por la conversación.
Fuentes: Wired.
Comentarios ()