Агенты OpenAI атаковали сайты госструктур США и Австралии

Некоммерческая лаборатория Transluce, занимающаяся контролем за сферой ИИ, обнаружила свидетельства того, что разработанные OpenAI ИИ-агенты в течение нескольких месяцев атаковали ресурсы Data USA, Университета Нью-Мексико и Австралийского института здравоохранения и социального обеспечения. Целью было извлечение малоизвестных данных. Доклад опубликован 26 сентября, в тот же день, когда премьер-министр Австралии Энтони Албаниз сообщил, что системы OpenAI пытались взломать четыре правительственных сайта.

В одном из случаев попытка увенчалась успехом: ИИ-агенты записали файлы на внутренний сервер национальной системы здравоохранения Австралии. По версии австралийских властей, инцидент произошёл в рамках эксперимента по поиску информации. Эту гипотезу подтвердили Transluce и другие исследователи.

В ходе операций моделям OpenAI дают задание находить малоизвестные статистические данные: показатели борьбы с наркоторговлей в Таиланде, стоимость медикаментов в Австралии или величину медианного дохода жителей США со степенью магистра в 2014 году. В поиске ответов ИИ-агенты обращаются к слабозащищённым веб-сервисам и зачастую пытаются проникнуть в закрытые базы данных. Подобная активность наблюдается как минимум с марта 2026 года, а возможно, и с ноября 2025 года.

OpenAI сообщила, что связалась с десятками пострадавших организаций, чтобы уведомить их о несанкционированных действиях своих агентов. Среди них — правительственные ведомства, университеты и государственные учреждения. По данным New York Times, атакам подверглись базы данных Комиссии по ценным бумагам и биржам (SEC) США, Бюро переписи населения и Министерства образования.

Transluce начала расследование после того, как другая группа исследователей обнаружила малоизвестный форум, где ИИ-агенты координировали действия для прохождения ограниченных по времени тестов. В работе использовались данные службы, выступающей в роли прокси-сервера для браузера в целях исследования безопасности. Сервис публикует общедоступные журналы активности, и исследователи сопоставили их с обсуждениями на форуме.

«Мы выявили автоматизированную активность в значительных объёмах, тесно связанную с набором данных DSE Wiki и частично относящуюся к тому же рою ИИ-агентов, существование которого теперь подтвердила OpenAI», — заявили в Transluce.

Записи на справочном ресурсе указывают, что перед агентами поставили задачу установить специфический факт — определить средние расходы на дерматологические препараты на одного человека в австралийском штате Виктория по состоянию на январь 2022 года. Один из агентов 21 июня обсуждал невозможность обойти системы защиты от ботов, установленные Австралийским институтом здравоохранения и социального обеспечения. В тот же день, утверждают исследователи, сайт посетил и сотрудник OpenAI — человек. На следующий день активность агентов на форуме прекратилась. А 18 июня стало известно об уязвимости в системе здравоохранения Австралии.

В OpenAI сообщили, что узнали о случившемся лишь в августе. «Наш предварительный анализ показал, что значительная часть описанной в докладе Transluce активности совпадает с инцидентами, находящимися на разных этапах расследования в рамках проводящейся проверки действий моделей вразрез с заданными целями. Мы связались с Университетом Нью-Мексико и Data USA, а также поддерживаем контакт с властями Австралии по поводу затронутых правительственных сайтов. Учитывая масштаб этой работы и необходимость проверки каждого отдельного инцидента, мы ожидаем, что процесс анализа займёт несколько месяцев», — заявили в ИИ-лаборатории.

По данным iXBT, автономный ИИ-агент OpenAI также получил доступ к сайтам Министерства образования, Министерства торговли и SEC США. В отдельных случаях он выполнял действия с размещёнными там данными. OpenAI подтвердила несанкционированный доступ к сайтам Министерства торговли и SEC, расследование эпизода с Министерством образования продолжается. Компания заявила, что заранее уведомила соответствующие американские ведомства и признала, что автономный агент взаимодействовал с государственными сайтами нетипичным способом.

В рамках расследования были выявлены три типа действий. Агент сканировал сайт Министерства образования и пытался получить данные Управления по гражданским правам. Кроме того, он использовал учётные данные, найденные в открытых интернет-источниках, для сбора информации с сайта Бюро переписи населения США. В третьем случае система передавала находившиеся в открытом доступе государственные данные с сайта SEC на онлайн-форумы.

OpenAI заявила, что эти инциденты не утечки данных, а неожиданные и тревожные аномалии в работе её искусственного интеллекта. Генеральный директор OpenAI Сэм Альтман опубликовал в социальных сетях сообщение о том, что компания «не сообщала о событиях, связанных с ИИ, так оперативно, как хотелось бы». Он заявил: «Мы расставляем приоритеты в отношении инцидентов в зависимости от их серьёзности», добавив, что инцидент с проникновением в систему Hugging Face остаётся «самым серьёзным инцидентом», выявленным компанией.