Un análisis reciente reveló que decenas de aplicaciones en las tiendas de Apple y Google permiten generar imágenes de personas desnudas mediante inteligencia artificial, un hallazgo que obligó a ambas compañías a actuar. La situación pone en evidencia por qué la moderación de contenido debe adaptarse con urgencia al avance de la IA generativa.
El informe inicial detectó cerca de 50 apps por plataforma que ofrecían herramientas para crear desnudos generados por IA, aunque un seguimiento más detallado listó específicamente alrededor de 20 en Google Play y 18 en la App Store. Ese desfase muestra la rapidez con que aparecen y desaparecen aplicaciones en los catálogos.
Qué han dicho las empresas
Google confirmó a medios especializados que está revisando las denuncias y que ha removido numerosas aplicaciones que incumplían sus normas. Según un portavoz citado por Android Authority, Google Play no permite aplicaciones con contenido sexual y la compañía investiga y actúa cuando recibe notificaciones de violaciones.
Apple, por su parte, informó a Bloomberg que eliminó 15 aplicaciones encontradas tras el análisis. Ambas empresas aseguran contar con políticas que prohíben la promoción de explotación o abuso, pero reconocen que la aplicación práctica de esas reglas puede retrasarse respecto a los nuevos usos de la IA.
Cómo afecta esto a usuarios y menores
- Riesgo de violación de privacidad: fotos manipuladas pueden usarse para acosar o extorsionar a personas.
- Acceso por menores: varias de estas apps aparecían con clasificación “E”, lo que facilita su descarga por niños y adolescentes.
- Difusión involuntaria: funciones de autocompletado y sugerencias en las tiendas llegaron a promover búsquedas relacionadas, multiplicando la visibilidad de estas apps.
Además de los riesgos directos, expertos advierten que herramientas así facilitan la creación rápida de material dañino, complicando la identificación y el borrado completo de contenidos fuera de las plataformas oficiales.
Medidas ya aplicadas
- Revisión de las apps señaladas en el informe.
- Suspensión y eliminación de decenas de aplicaciones en Google Play; eliminación de 15 apps en la App Store.
- Investigaciones internas en curso para ajustar la detección y la respuesta a funciones de IA que vulneren las políticas.
No obstante, fuentes cercanas a la investigación señalan que la moderación automática y los procesos manuales aún están en desventaja frente a la velocidad con la que se desarrollan y publican nuevas apps basadas en IA.
En resumen, las plataformas afirman que actúan, pero el incidente subraya una realidad creciente: las políticas existen, pero su implementación debe evolucionar para proteger mejor la privacidad y a los menores frente a los usos maliciosos de la inteligencia artificial.
Artículos similares
- Android redefine su ecosistema: pagos fuera de Play Store y Fortnite regresa a nivel mundial
- Adiós a las APKs en Android: Google revela cómo instalarlas y la fecha de la nueva restricción
- Google revela las top apps y juegos de Android 2025: ¡Explora joyas ocultas para reloj, coche y tablet!
- Google elimina su app del tiempo en Wear OS: descubre las nuevas alternativas para tu reloj
- Google confirma: Instalar apps fuera de Play Store seguirá posible en 2026
Diego Soler explora las tendencias tecnológicas y las innovaciones digitales. Disfrutará de tutoriales prácticos y consejos directos para comprender mejor la inteligencia artificial, la ciberseguridad y las nuevas tecnologías.
