Новый отчет OpenAI показал, что спонсируемые государством группы используют те же общедоступные инструменты, что и обычные пользователи Интернета, и часто сталкиваются с такими же трудностями. Недавно OpenAI поделилась подробностями о том, как связанные с правительством группы пытались использовать их платформы.
Самым заметным случаем стал китайский инфлюенс-кампания, которая была раскрыта случайно, когда китайский правоохранительный чиновник использовал ChatGPT как личный дневник. Чиновник писал о операции, нацеленной на китайских критиков, живущих в других странах. По данным OpenAI, в кампании участвовали сотни операторов и тысячи поддельных аккаунтов в социальных сетях.
Операция пыталась выдавать себя за офицеров иммиграционной службы США, чтобы напугать диссидента, ложно утверждая, что их публичные заявления нарушают американское законодательство. В других случаях операторы использовали поддельные документы, утверждая, что они из окружного суда, чтобы попытаться удалить аккаунты критиков в социальных сетях.
OpenAI дает представление о новой кампании преследования
Они создали поддельное некролог и фотографии надгробий, чтобы распространять ложные слухи о смерти одного диссидента. Эти слухи на самом деле появились в интернете в 2023 году, что подтвердили статьи на китайском языке от Голоса Америки. Бен Ниммо, который возглавляет расследования в OpenAI, назвал это усилие индустриализированным преследованием, направленным против критиков Коммунистической партии Китая через множество каналов.
Использование ChatGPT в качестве инструмента для ведения записей привело к раскрытию операции. ChatGPT работал как журнал для оперативника, чтобы отслеживать скрытую сеть, в то время как другие инструменты генерировали большую часть фактического контента, который распространялся через социальные сети. OpenAI запретила пользователю доступ после обнаружения активности. Расследователи OpenAI сопоставили описания пользователя ChatGPT с реальной онлайн-активностью.
Пользователь описал подделку смерти китайского диссидента, создав поддельный некролог и фотографии надгробий для размещения в интернете. В другом случае пользователь ChatGPT попросил систему создать план по подрыву репутации нового премьер-министра Японии Санаэ Такаичи, вызвав гнев по поводу американских тарифов. ChatGPT отказался. Но в конце октября, когда Такаичи пришла к власти, хештеги появились на популярном форуме японских графических художников, нападая на нее и жалуясь на тарифы.
Microsoft раскрывает аналогичные тенденции в своем отчете
Отчет OpenAI также охватывает несколько мошеннических операций из Камбоджи, которые использовали платформу для романтического и инвестиционного мошенничества, а также кампании влияния, связанные с Россией, нацеленные на Аргентину и Африку. В отдельном отчете, опубликованном Microsoft в сотрудничестве с OpenAI, рассматривается, как государственные акторы из России, Северной Кореи, Ирана и Китая испытывают большие языковые модели для поддержки кибератак.
Обе компании прекратили усилия пяти действующих лиц, связанных с государством, закрыв их аккаунты. Отчет Microsoft показал, что эти участники в основном хотели использовать услуги для простых задач, таких как поиск общедоступной информации, перевод контента, исправление ошибок в коде и выполнение базовых программных задач. На данный момент не было обнаружено крупных или новых атак с использованием моделей. Этот разрыв между страхом и реальностью происходит во время жесткой конкуренции между Вашингтоном и Пекином за контроль над этой технологией.
Роль, которую она играет в военных и экономических делах, также стала большой борьбой. Пентагон недавно сообщил другой компании, Anthropic, что у нее есть время до пятницы, чтобы удалить определенные функции безопасности из своей модели, иначе она рискует потерять контракт на оборону. Microsoft заявила, что работает над принципами снижения рисков от плохого использования этих инструментов государственными группами и преступными организациями. Эти принципы включают в себя поиск и остановку плохих пользователей, уведомление других поставщиков услуг, сотрудничество с другими группами и прозрачность.
Пост OpenAI сообщает, что хакеры от государства не смогли получить преимущество с помощью ИИ, впервые появился на Coinfea.