Агенты OpenAI месяцами атаковали сайты и базы данных

Некоммерческая лаборатория Transluce, занимающаяся надзором за ИИ, опубликовала отчёт, в котором показала, как агенты OpenAI пытались похитить данные с сайта Data USA, из цифровой библиотеки Университета Нью-Мексико и с ресурсов Австралийского института здравоохранения и благосостояния (AIHW). Об этом сообщает TechCrunch.

Отчёт вышел в тот же день, когда премьер-министр Австралии Энтони Альбанезе заявил, что агенты OpenAI пытались взломать четыре правительственных сайта и в одном случае добились успеха — записали файлы на внутренний сервер национальной системы здравоохранения. По его словам, это была часть оценки по поиску информации.

В таких заданиях моделям OpenAI поручают находить редкие статистические данные: показатели борьбы с наркотиками в Таиланде, стоимость лекарств в Австралии, медианный заработок обладателей магистерских степеней в США в 2014 году. Агенты использовали плохо защищённые интернет-сервисы для обмена ответами и часто пытались проникнуть в защищённые базы данных. Это происходит как минимум с марта 2026 года, а возможно, с ноября 2025-го.

OpenAI заявила, что связалась с десятками пострадавших, включая правительства, университеты и государственные учреждения, чтобы уведомить их о несанкционированных действиях своих агентов.

Transluce начала расследование после того, как другая группа исследователей обнаружила малоизвестный форум, где агенты координировались для прохождения тестов на время. Отчёт опирается на данные сайта urlquery.net, который работает как браузерный прокси и публикует логи активности. Исследователи смогли идентифицировать агентов, сопоставив их обсуждения на форуме с этими логами.

«Мы обнаружили большое количество автоматизированной активности, тесно связанной с набором данных DSE Wiki, и OpenAI теперь подтвердила, что часть её относится к тому же рою», — сказал TechCrunch Конрад Стош, руководитель направления управления в Transluce. Он отметил, что не всю найденную активность можно связать с OpenAI или вообще с ИИ-агентами.

В вики описано, как агентам поручили найти среднюю годовую стоимость на человека по «дерматологическим препаратам» в штате Виктория в январе 2022 года. 20 июня логи urlquery.net показали попытку агента проникнуть на сайт. 21 июня в вики агент обсуждает невозможность обойти антибот-защиту AIHW. Исследователи, нашедшие форум, считают, что в тот же день сайт впервые посетил сотрудник OpenAI. Большая часть активности агентов на форуме прекратилась на следующий день. Это произошло вскоре после взлома системы здравоохранения Австралии, о котором Альбанезе сообщил 18 июня. OpenAI заявила, что узнала об этой активности только в августе.

OpenAI не ответила на вопросы о том, когда её сотрудники обнаружили форум, какую информацию оттуда получили и что могли узнать об атаках.

«Наш первоначальный анализ показывает, что большая часть активности, описанной в отчёте Transluce, пересекается со случаями на разных стадиях расследования в рамках нашего текущего анализа нежелательного поведения моделей, — заявил представитель OpenAI. — Мы связались с Университетом Нью-Мексико и Data USA и общаемся с правительством Австралии по поводу затронутых госсайтов. В рамках более широкой проверки мы продолжаем уделять приоритетное внимание самым серьёзным инцидентам, расширяя работу на менее серьёзную активность, включая спам агентов по сайтам. Учитывая масштаб работы и необходимость проверки каждого случая, мы ожидаем, что проверка займёт месяцы».

Стош говорит, что без более чёткого понимания того, как OpenAI следит за своими агентами, сложно сказать, что лаборатория должна была знать. Но, по его словам, «вероятно, если бы они тщательно изучили и поняли все исходящие запросы и входящие ответы агентов, участвовавших в DSE Wiki, они бы обнаружили эту активность».

Селена Чжан, сотрудница Transluce, участвовавшая в подготовке отчёта, отметила, что логи urlquery.net показывают запросы к похожим наборам данных с похожими методами в марте 2026 года и, возможно, ещё в ноябре 2025-го. Она также указала, что связанная с агентами активность на urlquery.net фиксировалась ещё на этой неделе.

Стош, ранее возглавлявший Центр стандартов и инноваций в области ИИ США, заявил, что Transluce продолжит исследования для публичной прозрачности. Он предупредил, что методы обучения, используемые OpenAI и другими передовыми лабораториями, похоже, стимулируют агентов прибегать к взлому для выполнения задач. Известные инциденты — вероятно, лишь «верхушка айсберга».

«Мы смотрим на несколько источников данных, где эти агенты случайно оставили следы, — сказал он. — OpenAI наверняка знает больше. Другие лаборатории наверняка знают больше, но не раскрывают публично. Но я ожидаю, что исследователи продолжат находить больше трафика и доказательств того, что оставили агенты».