Un nuevo informe de OpenAI ha demostrado que los grupos patrocinados por el estado están utilizando las mismas herramientas disponibles públicamente que los usuarios regulares de internet, y a menudo luchando tanto como ellos. OpenAI compartió recientemente detalles sobre cómo los grupos vinculados al gobierno intentaron usar sus plataformas.
El caso más notable provino de una campaña de influencia china que fue expuesta por accidente cuando un funcionario de la ley china usó ChatGPT como un diario personal. El funcionario escribió sobre una operación dirigida a críticos chinos que viven en otros países. La campaña involucró a cientos de operadores y miles de cuentas falsas en redes sociales, según OpenAI.
La operación intentó hacerse pasar por oficiales de inmigración de Estados Unidos para asustar a un disidente diciendo falsamente que sus declaraciones públicas violaban la ley estadounidense. En otros casos, los operadores utilizaron documentos falsificados que afirmaban ser de un tribunal del condado para intentar eliminar las cuentas de redes sociales de los críticos.
OpenAI da información sobre una nueva campaña de acoso
Crearon un obituario falso y fotos de lápidas para difundir rumores falsos sobre la muerte de un disidente. Estos rumores aparecieron en línea en 2023, confirmó un artículo en chino de Voice of America. Ben Nimmo, quien lidera las investigaciones en OpenAI, llamó al esfuerzo acoso industrializado dirigido a críticos del Partido Comunista Chino a través de múltiples canales.
Usar ChatGPT como una herramienta de registro terminó exponiendo la operación. ChatGPT funcionó como un diario para que el operativo rastreara la red encubierta, mientras que otras herramientas generaron la mayor parte del contenido real que se difundió a través de las redes sociales. OpenAI prohibió al usuario después de encontrar la actividad. Los investigadores de OpenAI coincidieron en las descripciones del usuario de ChatGPT con la actividad real en línea.
El usuario describió simular la muerte de un disidente chino creando un obituario falso y fotos de lápidas para publicar en línea. En otro caso, el usuario de ChatGPT pidió al sistema que creara un plan para dañar la reputación de la próxima Primera Ministra japonesa Sanae Takaichi al provocar enojo por los aranceles estadounidenses. ChatGPT se negó. Pero a finales de octubre, cuando Takaichi asumió el poder, aparecieron hashtags en un foro popular para artistas gráficos japoneses atacándola y quejándose sobre los aranceles.
Microsoft presenta tendencias similares en su informe
El informe de OpenAI también cubrió varias operaciones de estafa desde Camboya que utilizaron la plataforma para fraudes de romance e inversión, además de campañas de influencia vinculadas a Rusia dirigidas a Argentina y África. En un informe separado publicado por Microsoft en colaboración con OpenAI, se analiza cómo los actores de estados nacionales de Rusia, Corea del Norte, Irán y China están probando grandes modelos de lenguaje para apoyar operaciones de ciberataques.
Ambas empresas detuvieron los esfuerzos de cinco actores afiliados al estado cerrando sus cuentas. El informe de Microsoft encontró que estos actores principalmente querían usar servicios para trabajos simples como buscar información disponible públicamente, traducir contenido, corregir errores de codificación y ejecutar tareas de programación básicas. Hasta ahora no se han encontrado ataques importantes o nuevos usando los modelos. Esta brecha entre el miedo y la realidad ocurre durante una dura competencia entre Washington y Pekín por el control de esta tecnología.
El papel que desempeña en asuntos militares y económicos también se ha convertido en una gran lucha. El Pentágono le dijo recientemente a otra empresa, Anthropic, que tiene hasta el viernes para eliminar ciertas características de seguridad de su modelo o arriesgarse a perder un contrato de defensa. Microsoft dijo que está trabajando en principios para reducir riesgos del mal uso de estas herramientas por grupos de naciones y organizaciones criminales. Estos principios incluyen encontrar y detener a los malos usuarios, informar a otros proveedores de servicios, trabajar con otros grupos y ser transparente.
El informe de OpenAI revela que los hackers de estados nacionales no logran obtener ventaja con la IA apareció por primera vez en Coinfea.