Meta presenta una demanda contra la aplicación ‘Nudify’ Crush AI por anuncios en su plataforma

Meta ha presentado una demanda contra el creador de Crush AI, una aplicación de inteligencia artificial ampliamente utilizada para “desnudar” imágenes, que supuestamente publicó miles de anuncios en las plataformas de Meta. Junto con esta acción legal, Meta anunció nuevas iniciativas para frenar aplicaciones similares.

La demanda, presentada en Hong Kong, acusa a la empresa Joy Timeline HK, responsable de Crush AI, de intentar evadir el sistema de revisión de anuncios de Meta para promocionar sus servicios de desnudez generada por IA. Según una publicación en el blog de Meta, la empresa eliminó repetidamente los anuncios por violar sus políticas, pero Joy Timeline HK supuestamente continuó enviando nuevos anuncios a pesar de las eliminaciones.

Un informe revela que los anuncios de Meta impulsaron el auge de la app ‘Crush AI’ basada en deepfakes

Crush AI, una aplicación que utiliza IA generativa para crear imágenes falsas con contenido sexual explícito de personas reales sin su consentimiento, supuestamente publicó más de 8.000 anuncios promocionando su servicio de “desnudador por IA” en las plataformas de Meta en las primeras dos semanas de 2025, según Alexios Mantzarlis, autor del boletín Faked Up. En un informe de enero, Mantzarlis señaló que alrededor del 90 % del tráfico hacia los sitios web de Crush AI provenía de Facebook o Instagram, y que él mismo reportó varios de estos sitios a Meta.

Para evadir el sistema de revisión de anuncios de Meta, Crush AI habría creado docenas de cuentas de anunciantes y rotado constantemente los nombres de dominio. Muchas de estas cuentas, según Mantzarlis, llevaban nombres como “Eraser Anyone’s Clothes” con distintas numeraciones. En cierto momento, incluso operaron una página de Facebook para promocionar sus servicios.

Facebook e Instagram no son las únicas plataformas afectadas. A medida que plataformas como X (anteriormente Twitter) y Meta integran inteligencia artificial generativa en sus servicios, también enfrentan el desafío de moderar el uso indebido de estas herramientas, especialmente en contextos que pueden representar riesgos para menores de edad.

Las plataformas luchan por contener el auge de aplicaciones de “desnudez por IA” pese a nuevos esfuerzos de detección

Investigadores han observado un aumento de enlaces a aplicaciones de desnudez por IA en plataformas como X, Reddit y YouTube durante 2024, con millones de usuarios supuestamente expuestos a anuncios de estas apps. En respuesta, Meta y TikTok han bloqueado búsquedas de palabras clave relacionadas con estas herramientas, aunque eliminar completamente este contenido sigue siendo un gran desafío.

Meta indicó en su blog que ha desarrollado nuevas tecnologías de detección para identificar anuncios relacionados con la desnudez por IA, incluso cuando no contienen contenido explícito. Además, afirmó que está usando tecnologías de coincidencia para localizar y eliminar de manera más eficiente anuncios similares, y ha ampliado el conjunto de palabras clave, frases y emojis que sus sistemas detectan.

Meta afirmó que ahora está utilizando las mismas estrategias que ha empleado históricamente para desmantelar redes coordinadas de actores maliciosos, con el objetivo de identificar grupos que publican anuncios de servicios de desnudez por IA. Desde principios de 2025, asegura haber interrumpido cuatro de estas redes.

Más allá de sus propias plataformas, Meta también anunció que compartirá información sobre aplicaciones de “nudify” mediante el programa Lantern de la Tech Coalition—una iniciativa conjunta entre Google, Meta, Snap y otras compañías para combatir la explotación sexual infantil en línea. Desde marzo, Meta afirma haber contribuido con más de 3.800 URLs únicas a este esfuerzo colaborativo.

En cuanto a políticas, Meta expresó que continuará apoyando legislaciones que den a los padres la capacidad de gestionar y aprobar las aplicaciones que sus hijos adolescentes descargan. La empresa ya había respaldado la ley estadounidense Take It Down Act y actualmente colabora con legisladores en su implementación.

Read the original article on: TechCrunch

Read more: Meta’s V-JEPA 2 Model Trains AI To Understand Its Surroundings