La Casa Blanca publicó un Hoy se describen los compromisos que varias empresas de inteligencia artificial están asumiendo para frenar la creación y distribución de abuso sexual basado en imágenes. Las empresas participantes han expuesto las medidas que están tomando para evitar que sus plataformas se utilicen para generar imágenes íntimas no consensuadas (NCII) de adultos y material de abuso sexual infantil (CSAM).
Específicamente, Adobe, Anthropic, Cohere, Common Crawl, Microsoft y OpenAI dijeron que serán:
Todos los mencionados anteriormente, excepto Common Crawl, también acordaron que serían:
-
“incorporar ciclos de retroalimentación y estrategias iterativas de pruebas de estrés en sus procesos de desarrollo, para protegerse contra los modelos de IA que generan abuso sexual basado en imágenes”
-
Y “eliminar imágenes de desnudos de los conjuntos de datos de entrenamiento de IA” cuando sea apropiado.
Es un compromiso voluntario, por lo que el anuncio de hoy no crea nuevos pasos procesables ni consecuencias por no cumplir esas promesas. Pero aun así vale la pena aplaudir un esfuerzo de buena fe para abordar este grave problema. Las ausencias notables en el comunicado de hoy de la Casa Blanca son Apple, Amazon, Google y Meta.
Muchas grandes empresas de tecnología e inteligencia artificial han estado avanzando para que a las víctimas del NCII les resulte más fácil detener la difusión de imágenes y videos deepfake, independientemente de este esfuerzo federal. StopNCII tiene con un enfoque integral para eliminar este contenido, mientras que otras empresas están implementando herramientas patentadas para informar abuso sexual basado en imágenes generadas por IA en sus plataformas.
Si cree que ha sido víctima de intercambio de imágenes íntimas no consensuadas, puede abrir un caso con StopNCII ; Si es menor de 18 años, puede presentar un informe ante el NCMEC. .
