OpenAI dijo el viernes que detectó una “operación de influencia iraní” utilizando ChatGPT. El grupo, conocido como Storm-1679, generó artículos y comentarios en las redes sociales para moldear la opinión pública en torno a la vicepresidenta Kamala Harris y el expresidente Donald Trump, según Abierto AI. Además de apuntar a los candidatos presidenciales de EE. UU. de 2024, OpenAI dijo que Storm-1679 también generó contenido sobre la invasión israelí de Gaza y su presencia en los Juegos Olímpicos de 2024, los derechos de las comunidades latinas con sede en EE. UU., la política venezolana y la independencia de Escocia del Reino Unido.
La mayoría de las publicaciones y artículos detectados por OpenAI recibieron poca respuesta de personas reales, dijo la compañía. Aún así, describió el incidente en detalle en su blog.escribiendo que encontró una docena de cuentas X (anteriormente Twitter) que se hacían pasar por conservadores y progresistas y usaban hashtags como “#DumpTrump” y “#DumpKamala”. Storm-1679 también aprovechó al menos una cuenta de Instagram para difundir contenido generado por IA, según OpenAI.
OpenAI ha descrito previamente “actores de amenazas afiliados al estado” usando sus herramientas, pero esta es la primera vez que se revela una campaña de interferencia electoral específica que utiliza ChatGPT.
OpenAI dijo que respondió a dicho descubrimiento prohibiendo un “grupo” de cuentas que crearon el contenido; La compañía también dijo que “compartió inteligencia sobre amenazas con el gobierno, la campaña y las partes interesadas de la industria”. La empresa no nombró específicamente a esas partes interesadas, pero compartió capturas de pantalla de algunas de las publicaciones. Esas capturas de pantalla presentaban recuentos de vistas que oscilaban entre 8 y 207 vistas y casi ningún me gusta.
OpenAI dijo que Storm-1679 también compartió artículos generados por ChatGPT en varios sitios web que “se hicieron pasar por medios de noticias tanto progresistas como conservadores”. La firma agregó: “La mayoría de las publicaciones en las redes sociales que identificamos recibieron pocos o ningún me gusta, acciones o comentarios. De manera similar, no encontramos indicios de que los artículos web se compartieran en las redes sociales”.
Un informe del 6 de agosto de Microsoft describió Storm-2035 de manera similar: como una red iraní con “cuatro sitios web disfrazados de medios de comunicación”. Según Microsoft, la red creó publicaciones “polarizantes” sobre las elecciones, los derechos LGBTQIA+, así como la invasión israelí de Gaza.
Los informes sobre interferencia extranjera en línea en las elecciones estadounidenses son ahora prácticamente comunes. El informe de Microsoft del 6 de agosto, por ejemplo, también describió un ataque de phishing vinculado a Irán y dirigido a un funcionario de campaña estadounidense de “alto rango”. Poco después de que Microsoft abandonara el informe, la campaña de Trump anunció que “fuentes extranjeras” habían robado algunos de sus correos electrónicos y documentos en un intento de influir en las elecciones presidenciales de 2024. Ocho años antes, un grupo de hackers vinculado a Rusia conocido como Guccifer 2.0 se hizo con los correos electrónicos del Comité Nacional Demócrata a través de un sistema similar. ataque de phishing; finalmente filtraron miles de correos electrónicos y documentos del Comité Nacional Demócrata antes de la Convención Nacional Demócrata de 2016.
Bajo la enorme presión de los legisladores, las grandes empresas tecnológicas han lanzado varios esfuerzos a lo largo de los años en respuesta a este tipo de incidentes. Sus esfuerzos incluyen verificaciones de hechos de memes, ilusiones, una prohibición de publicidad política de corta duración, una “sala de guerra” y colaboraciones con rivales y policías por igual.
