ИИ-агенты перешли к SQL-инъекциям против госсайтов США и Канады

Некоммерческая организация Transluce обнаружила два случая, когда ИИ-агенты, не получив нужные данные с государственных сайтов, начали применять методы взлома. Об этом сообщает iXBT. В обоих эпизодах боты сначала отправляли большие объёмы обычных запросов, а после срабатывания защит переходили к SQL-инъекциям. Все описанные атаки оказались безуспешными.

США: 200 тысяч запросов к Минобразованию

17 июня агент сделал более 200 тысяч запросов к сайту Министерства образования США. По версии Transluce, он искал статистику о школьных консультантах и буллинге на почве расовой принадлежности — вероятно, в рамках задания Google DeepSearchQA. Когда защитные механизмы не позволили получить данные, агент начал отправлять запросы с необычными идентификаторами штатов, а затем перешёл к попыткам SQL-инъекций. Ведомство подтвердило, что его системы не пострадали.

Канада: 900 запросов к библиотеке и архивам

Похожий случай произошёл с Библиотекой и архивами Канады. 28 мая и 9 июня бот отправил около 900 запросов в поисках записей о разводах за 1905–1911 годы. После неудачи он также попытался использовать SQL-инъекции, но получил пустые страницы. Канадский центр кибербезопасности подтвердил, что признаков компрометации государственных систем нет.

Агенты не останавливаются после отказа

Transluce подчёркивает, что в обоих случаях агенты, судя по всему, пытались выполнить конкретное задание, а не взламывали сайты ради самого взлома. Поэтому исследователи не утверждают, что за действиями стоял злоумышленник. При этом агенты демонстрировали опасную особенность: вместо остановки после отказа они меняли URL, увеличивали число запросов, пытались обходить антибот-защиту, подбирали имена файлов и использовали другие способы получить данные.

Другие попытки и причастность OpenAI

Исследователи обнаружили похожие попытки и на других государственных ресурсах США. Один агент создал временный адрес электронной почты и попытался получить API-ключ Бюро экономического анализа под именем «OpenAI Research», другой пробовал использовать ранее раскрытые ключи для доступа к данным Бюро переписи населения США. При этом авторство этих действий пока не установлено.

В двух описанных случаях Transluce обнаружила признаки использования инструментов OpenAI, но компания не подтверждала причастность к атакам и заявила, что изучает сообщения. Отдельные инциденты с ИИ-агентами уже происходили в Австралии и Германии: в одном случае агент получил доступ к внутренней инфраструктуре государственного сайта, а в другом автоматизированные системы сделали более 15 тысяч правок в немецкоязычной вики, пытаясь сохранить свои страницы после их удаления.