El Departamento de Justicia anunció hoy la incautación de dos nombres de dominio y la búsqueda de 968 cuentas de redes sociales utilizadas por actores rusos para crear una granja de bots de redes sociales mejorada con inteligencia artificial que difundía desinformación en Estados Unidos y en el extranjero.
La granja de bots de redes sociales utilizó elementos de inteligencia artificial para crear perfiles ficticios en las redes sociales, que a menudo pretendían pertenecer a personas en Estados Unidos, que luego los operadores utilizaron para promover mensajes en apoyo de los objetivos del gobierno ruso, según declaraciones juradas reveladas hoy.
Junto con las incautaciones de dominios y la orden de allanamiento anunciadas hoy, el FBI y la Cyber National Mission Force (CNMF), en asociación con el Centro Canadiense de Seguridad Cibernética (CCCS), el Servicio General de Inteligencia y Seguridad de los Países Bajos (AIVD), el Servicio de Inteligencia y Seguridad Militar de los Países Bajos (MIVD) y la Policía de los Países Bajos publicaron un aviso conjunto sobre ciberseguridad que detalla la tecnología detrás de la granja de bots de las redes sociales, incluidos detalles sobre cómo los creadores de la granja de bots aprovecharon su sistema de inteligencia artificial a medida para promover el plan.
El aviso permitirá a las plataformas de redes sociales y a los investigadores identificar y evitar que el gobierno ruso siga utilizando la tecnología. Además, X Corp. (anteriormente, Twitter) suspendió voluntariamente las cuentas de bots restantes identificadas en los documentos judiciales por violaciones de los términos del servicio.
“Con estas acciones, el Departamento de Justicia ha desbaratado una campaña de propaganda respaldada por el gobierno ruso y habilitada por inteligencia artificial para utilizar una granja de bots para difundir desinformación en los Estados Unidos y en el extranjero”, dijo el Fiscal General Merrick B. Garland.
“Mientras el gobierno ruso continúa librando su brutal guerra en Ucrania y amenaza a las democracias de todo el mundo, el Departamento de Justicia seguirá desplegando todas nuestras autoridades legales para contrarrestar la agresión rusa y proteger al pueblo estadounidense”.
“La acción de hoy demuestra que el Departamento de Justicia y nuestros socios no tolerarán que los actores del gobierno ruso y sus agentes implementen inteligencia artificial para sembrar desinformación y alimentar la división entre los estadounidenses”, dijo la fiscal general adjunta Lisa Monaco.
“A medida que los actores malignos aceleran su uso indebido y delictivo de la inteligencia artificial, el Departamento de Justicia responderá y priorizaremos las acciones disruptivas con nuestros socios internacionales y el sector privado. No dudaremos en cerrar las granjas de bots, confiscar dominios de Internet obtenidos ilegalmente y llevar la lucha a nuestros adversarios”.
“Las acciones de hoy representan una primicia en la desarticulación de una granja de bots de redes sociales mejorada con IA generativa patrocinada por Rusia”, dijo el director del FBI, Christopher Wray. “Rusia tenía la intención de utilizar esta granja de bots para difundir desinformación extranjera generada por IA, ampliando su trabajo con la ayuda de la IA para debilitar a nuestros socios en Ucrania e influir en las narrativas geopolíticas favorables al gobierno ruso.
El FBI está comprometido a trabajar con nuestros socios y desplegar operaciones conjuntas y secuenciadas para desbaratar estratégicamente a nuestros adversarios más peligrosos y su uso de tecnología de vanguardia para fines nefastos”.
“Apoyamos toda participación cívica, diálogo civil y un sólido intercambio de ideas”, dijo el fiscal federal Gary Restaino para el Distrito de Arizona. “Pero esas ideas deben ser generadas por estadounidenses, para estadounidenses. La interrupción anunciada hoy nos protege de aquellos que utilizan medios ilegales para intentar engañar a nuestros ciudadanos y nuestras comunidades”.
“La interrupción anunciada hoy es el resultado de una respuesta conjunta con nuestros socios internacionales a una amenaza grave y única”, dijo el fiscal federal interino Morris Pasqual para el Distrito Norte de Illinois.
“Varios componentes gubernamentales de los EE. UU. y de otros países trabajaron en estrecha colaboración y de manera eficiente para abordar la amenaza y desarrollar y ejecutar una estrategia de mitigación. A través de enérgicos esfuerzos de cumplimiento y asociaciones internacionales colaborativas, el Departamento de Justicia trabaja incansablemente para interrumpir la actividad cibernética delictiva”.
Descripción general
Según los documentos judiciales, una granja de bots es un paquete de software mejorado que permite la creación de personajes falsos en las plataformas de redes sociales. Las granjas de bots se mejoran mediante la integración de componentes que contienen inteligencia artificial, como producción de imágenes o generación de texto.
Como se describe en las declaraciones juradas presentadas en apoyo de las órdenes judiciales, el desarrollo de la granja de bots de redes sociales fue organizado por un individuo identificado en Rusia (Individuo A).
A principios de 2022, el Individuo A trabajó como editor jefe adjunto en RT, una organización de noticias rusa estatal con sede en Moscú. Desde al menos 2022, la dirección de RT buscó el desarrollo de medios alternativos para distribuir información más allá de las transmisiones de noticias televisivas estándar de RT.
En respuesta, el Individuo A lideró el desarrollo de un software que podía crear y operar una granja de bots de redes sociales. Como estaba previsto, la granja de bots de redes sociales crearía personajes ficticios en línea para cuentas de redes sociales, a través de los cuales RT, o cualquier operador de la granja de bots, podría distribuir información a gran escala.
El desarrollo fue ejecutado por el Individuo B y otros, que ocultaron sus identidades y ubicación (Rusia) mientras comenzaban a comprar infraestructura para la granja de bots de redes sociales en abril de 2022.
A principios de 2023, con la aprobación y el apoyo financiero de la Administración Presidencial de Rusia (también conocida como el Kremlin), un oficial del FSB ruso (Oficial FSB 1) creó y dirigió una organización de inteligencia privada (OIP), como se explica en las declaraciones juradas.
Los miembros de la OIP estaban compuestos, entre otros, por empleados de RT, incluido el Individuo A. El verdadero propósito de la OIP era promover la misión del FSB y del gobierno ruso, incluso difundiendo desinformación a través de las cuentas de redes sociales creadas por la granja de bots.
Según las declaraciones juradas, el agente 1 del FSB, el individuo A y otros miembros del PIO tenían acceso a la granja de bots de las redes sociales. Los siguientes son ejemplos de narrativas del gobierno ruso que la granja de bots publicó en X en octubre y noviembre de 2023:
- Un supuesto constituyente estadounidense respondió a las publicaciones en las redes sociales de un candidato a un cargo federal sobre el conflicto en Ucrania con un video del presidente Putin justificando las acciones de Rusia en Ucrania;
- Un supuesto residente de Minneapolis, Minnesota, publicó un video del presidente Putin hablando de su creencia de que ciertas áreas geográficas de Polonia, Ucrania y Lituania fueron “regalos” a esos países de las fuerzas rusas que los liberaron del control nazi durante la Segunda Guerra Mundial;
- Un supuesto residente estadounidense de una ciudad identificada sólo como “Gresham” publicó un video en el que afirmaba que el número de combatientes extranjeros integrados en las fuerzas ucranianas era significativamente menor que las estimaciones públicas;
- El mismo supuesto individuo publicó un video del presidente Putin afirmando que la guerra en Ucrania no es un conflicto territorial ni una cuestión de equilibrio geopolítico, sino más bien los “principios en los que se basará el Nuevo Orden Mundial”.
Para registrar las cuentas ficticias en las redes sociales, la granja de bots de las redes sociales dependía de servidores de correo electrónico privados, que a su vez dependían de los dos nombres de dominio confiscados por el FBI. Una persona que controle un dominio de Internet puede crear cuentas de correo electrónico utilizando el dominio. Por ejemplo, una persona que controle el nombre de dominio www.example.com puede crear cuentas de correo electrónico utilizando @example.com (por ejemplo, [email protected]).
En este caso, los actores obtuvieron y controlaron los nombres de dominio “mlrtr.com” y “otanmail.com” de un proveedor con sede en EE. UU. Luego utilizaron esos dominios para crear los servidores de correo electrónico que, en última instancia, les permitieron crear cuentas ficticias en las redes sociales utilizando el software de la granja de bots.
El uso por parte del FSB de nombres de dominio con sede en Estados Unidos, que el software utilizó para registrar los bots, viola la Ley de Poderes Económicos de Emergencia Internacional. Además, los pagos que acompañan a esa infraestructura violan las leyes federales contra el lavado de dinero.
El Departamento de Justicia felicita a los miembros del sector privado que coordinaron sus esfuerzos con las autoridades para hacer frente a esta interrupción, incluido X por sus esfuerzos voluntarios para suspender las cuentas de bots identificadas de su plataforma. Antes de la acción del gobierno, X identificó y suspendió una cantidad significativa de cuentas de bots.
La investigación del Departamento de Justicia está en curso.
La Sección Cibernética de Seguridad Nacional de la División de Seguridad Nacional, la Fiscalía de los Estados Unidos para el Distrito de Arizona y la Fiscalía de los Estados Unidos para el Distrito Norte de Illinois están procesando el caso, con la valiosa asistencia de la Sección de Contrainteligencia y Control de Exportaciones de la División de Seguridad Nacional.
