Abierto AI dicho el viernes que frustró una campaña de influencia iraní que utilizaba ChatGPT para generar noticias falsas y publicaciones sociales dirigidas a los estadounidenses. La compañía dijo que identificó y prohibió cuentas que generaban contenido para cinco sitios web (en inglés y español) que se hacían pasar por medios de comunicación, difundiendo “mensajes polarizadores” sobre temas como la campaña presidencial de Estados Unidos, los derechos LGBTQ+ y la guerra en Gaza.
La operación fue identificada como “Tormenta-2035”, parte de una serie de campañas de influencia de Microsoft identificado la semana pasada como “conectado con el gobierno iraní”. Además de las publicaciones de noticias, incluía “una docena de cuentas en X y una en Instagram” conectadas a la operación. OpenAI dijo que la operación no parecía haber ganado ningún impulso significativo. “La mayoría de las publicaciones en las redes sociales que identificamos recibieron pocos o ningún me gusta, acciones o comentarios”, escribió la compañía.
Además, OpenAI dijo que en el Escala de ruptura de la Brookings Institutionque califica las amenazas, la operación solo obtuvo una calificación de Categoría 2 (en una escala del uno al seis). Eso significa que mostró “actividad en múltiples plataformas, pero no hay evidencia de que personas reales hayan recogido o compartido ampliamente su contenido”.
OpenAI describió la operación como la creación de contenido para medios de noticias falsos conservadores y progresistas, dirigidos a puntos de vista opuestos. Bloomberg dicho el contenido sugería que Donald Trump estaba “siendo censurado en las redes sociales y estaba preparado para declararse rey de Estados Unidos”. Otro enmarcó la elección de Kamala Harris de Tim Walz como su compañero de fórmula como una “elección calculada para la unidad”.
OpenAI agregó que la operación también creó contenido sobre la presencia de Israel en los Juegos Olímpicos y (en menor grado) la política venezolana, los derechos de las comunidades latinoamericanas y la independencia de Escocia. Además, la campaña salpicó el material pesado con comentarios sobre moda y belleza, “posiblemente para parecer más auténtico o en un intento de conseguir seguidores”.
“La operación intentó jugar con ambos lados, pero no parecía que ninguno de los dos se involucrara”, dijo el investigador de Investigaciones e Inteligencia de OpenAI, Ben Nimmo. Bloomberg.
El fracaso de una operación de influencia sigue a la revelación a principios de esta semana de que piratas informáticos iraníes han atacado las campañas de Harris y Trump. El FBI dijo que el asesor informal de Trump, Roger Stone, fue víctima de correos electrónicos de phishing. Luego, los piratas informáticos iraníes tomaron el control de su cuenta y enviaron mensajes con enlaces de phishing a otros. El FBI no encontró evidencia de que alguien en la campaña de Harris haya caído en el plan.
