ИИ-агенты OpenAI месяцами атаковали сайт ООН

ИИ-агенты OpenAI в течение нескольких месяцев предпринимали попытки атаки на сайт Конференции ООН по торговле и развитию (UNCTAD). Об этом сообщает The Wall Street Journal со ссылкой на исследователя в сфере безопасности Роуэн Говард-Джонс (Rowan Howard-Jones).

По данным источника, в период с апреля по конец июня этого года агенты более 16 000 раз сканировали сайт UNCTAD. Предположительно, им было поручено найти публично доступные данные, например значения индекса производственного потенциала различных стран. Однако доступа к этим данным через API у агентов не было, а возможности HTTP-инструментария не позволяли получить нужную информацию.

В определённый момент агенты перешли к более агрессивной тактике. Предположив, что их продвижение ограничивает некий фильтр, они начали маскировать свои попытки получить доступ к данным. В частности, были предприняты попытки атаки на сайт ООН через уязвимость в Google XSS (межсайтовый скриптинг).

Представители OpenAI сообщили, что уже обратились к ООН для обсуждения ситуации и продолжают выяснять все обстоятельства инцидента. Поскольку специалистам стартапа приходится иметь дело с большим количеством инцидентов, расследование каждого может занять существенное время. С другой стороны, принятое решение приостановить обучение ИИ-моделей должно способствовать сокращению количества новых происшествий в данной сфере.