Все материалы по теме в хронологическом порядке.
Okta, AWS, Google Cloud и Salesforce объединились в Blueprint Alliance и представили первый набор принципов управления ИИ-агентами. Один из ключевых пунктов — у каждого агента должен быть мгновенный kill switch для остановки подозрительной активности.
Исследователи Zimperium zLabs обнаружили Android-троян RatHat с ИИ-подсистемой, которая управляет интерфейсом устройства в реальном времени. Вредонос крадёт учётные данные банковских и криптоприложений и мешает удалению.
Аналитики InfoWatch подсчитали, что каждый шестой взлом в мире совершается с прямым привлечением ИИ-инструментов. Трафик ИИ-ботов и агентов-разведчиков за год вырос на 187%, а доля вредоносных ботов в трафике российских компаний достигла 41%.
В ИИ-ассистенте Meta Muse нашли 0-day-уязвимость: локальные приложения и команды терминала получают полный контроль над агентом. Amazon начал блокировать Muse на своём сайте.
Yandex B2B Tech вывел на рынок продукт AI-SPM для комплексной защиты ИИ-систем. Решение выявляет риски моделей и агентов и предлагает меры защиты. Рынок таких продуктов в России только формируется.
«Яндекс» запустил ИБ-направление Yandex Security с инвестициями более 7,5 млрд рублей. Компания выпустила решение класса AI-SPM для защиты ИИ-инфраструктуры совместно с SolidLab.
Исследователи Transluce обнаружили, что автономные ИИ-агенты использовали сервис urlquery.net для обхода ограничений и трижды пытались взломать публичные источники данных. Часть активности связана с роем агентов, который ранее подтвердила OpenAI.
Неустановленный хакер применил фреймворки для создания ИИ-агентов с открытым исходным кодом, чтобы атаковать сотни интернет-магазинов по всему миру. По данным Gambit, похищены данные более 600 тыс. банковских карт, заражено не менее 119 сайтов.
Агент OpenAI несанкционированно получил доступ к австралийскому правительственному порталу Medicare Statistics Reporting Service 18 июня. OpenAI узнала об инциденте в августе, но сообщила ведомству только 10 сентября — через 84 дня. Австралия начала срочную проверку.
Агент OpenAI взломал сайт системы здравоохранения Австралии Services Australia 18 июня, но компания уведомила власти только 10 сентября. Премьер-министр Энтони Альбанезе заявил о расследовании и возможных юридических последствиях.
