El fiscal de la ciudad de San Francisco, David Chiu, anunció en una conferencia de prensa el jueves que tenía la intención de cerrar 16 de los sitios más populares de “desnudez” de IA.
informó que el Fiscal Municipal está acusando a estos sitios de violar las leyes federales relativas a la pornografía de venganza, la pornografía deepfake y la pornografía infantil. La oficina de Chiu también acusó a los sitios de violar la ley de competencia desleal del estado de California porque “el daño que causan a los consumidores supera en gran medida cualquier beneficio asociado con esas prácticas”, según presentado ante un tribunal superior de California.
La denuncia se centra en un total de 50 acusados que Chiu pretende procesar por operar sitios web de desnudez. Algunos de los nombres de los acusados y de los sitios web fueron redactados, pero también identifica públicamente a algunas empresas que operan “algunos de los sitios web más populares del mundo que ofrecen imágenes desnudas de mujeres y niñas”, como Sol Ecom ubicada en Florida, Briver en Nueva México y Itai Tech Ltd, con sede en el Reino Unido. El único acusado identificado en la demanda es Augustin Gribinets de Estonia, acusado de ser propietario de un sitio de desnudez mediante inteligencia artificial que presenta imágenes no consentidas de mujeres y niños.
Estos sitios web han generado más de 200 millones de visitas en un período de seis meses. Las imágenes no consensuadas de mujeres y niños en estos sitios “se utilizan para intimidar, amenazar y humillar a mujeres y niñas” a medida que ganan más visitantes “y esta preocupante tendencia no muestra signos de disminuir”, según la denuncia.
El abogado de la ciudad cita un caso en su demanda legal de febrero en el que un sitio de IA para desnudarse generó imágenes de 16 estudiantes de octavo grado en una escuela secundaria de California. El incidente posiblemente se refiere a uno que ocurrió en una escuela secundaria de Beverly Hills en el que 16 estudiantes hacían circular imágenes falsas de desnudos de otros estudiantes. El distrito escolar expulsó a cinco estudiantes por su participación en la difusión de imágenes ilícitas, según el .
La tecnología deepfake se ha convertido en una importante preocupación legal, especialmente a nivel federal. El mes pasado publicó un informe sobre réplicas digitales y concluyó que “se necesita una nueva ley”. Apenas unos días después, un grupo bipartidista de senadores presentó una nueva ley que protegería a las personas de la recreación de su voz, rostro o cuerpo con IA sin su consentimiento.
