La ciudad de San Francisco exigió a Apple y Google retirar de sus tiendas digitales varias aplicaciones que utilizan inteligencia artificial para crear imágenes íntimas falsas, simulando desnudos de personas reales sin su consentimiento.
El fiscal municipal David Chiu envió cartas de cese y desistimiento a ambas compañías, señalándolas de alojar, promocionar y obtener ganancias mediante aplicaciones que pueden utilizarse para producir contenido sexual conocido como deepfake. Las autoridades sostienen que estas herramientas afectan principalmente a mujeres, adolescentes y menores de edad.
Apple y Google tendrían un plazo de 28 días para romper relaciones comerciales con los desarrolladores señalados y reforzar la revisión de sus tiendas. De no cumplir, podrían enfrentar acciones judiciales y sanciones civiles de al menos 25,000 dólares por cada infracción detectada.
Investigaciones citadas por las autoridades indican que este tipo de aplicaciones acumularía más de 705 millones de descargas y cerca de 117 millones de dólares en ingresos. Aunque ambas plataformas cuentan con políticas contra el contenido sexual abusivo, San Francisco considera que sus controles han sido insuficientes para impedir la difusión de estas herramientas.
