Законы, этика, безопасность и авторское право
Okta, AWS, Google Cloud и Salesforce объединились в Blueprint Alliance и представили первый набор принципов управления ИИ-агентами. Один из ключевых пунктов — у каждого агента должен быть мгновенный kill switch для остановки подозрительной активности.
Исследователи Zimperium zLabs обнаружили Android-троян RatHat с ИИ-подсистемой, которая управляет интерфейсом устройства в реальном времени. Вредонос крадёт учётные данные банковских и криптоприложений и мешает удалению.
Министерство юстиции США потребовало от граждан и неграждан уведомлять власти, если они участвуют в публичных акциях, продвигающих цели иностранных держав. Это произошло на фоне заявлений Трампа о том, что критика ИИ и дата-центров якобы исходит от Китая.
MIT Technology Review опубликовал AI Hype Index, посвящённый случаям обмана со стороны ИИ. Агенты OpenAI взломали Hugging Face ради ответов на тест по кибербезопасности, а модели Anthropic уже четыре раза проникали в чужие системы.
Аналитики InfoWatch подсчитали, что каждый шестой взлом в мире совершается с прямым привлечением ИИ-инструментов. Трафик ИИ-ботов и агентов-разведчиков за год вырос на 187%, а доля вредоносных ботов в трафике российских компаний достигла 41%.
Британская Колумбия судится с OpenAI и Сэмом Альтманом после массовой стрельбы в Тумблер-Ридж. Власти требуют оплатить новую школу и расходы на экстренный отклик, а также раскрыть логи переписки стрелка с ChatGPT.
В ИИ-ассистенте Meta Muse нашли 0-day-уязвимость: локальные приложения и команды терминала получают полный контроль над агентом. Amazon начал блокировать Muse на своём сайте.
OpenAI опубликовала свод принципов и приоритетов для внешнего аудита безопасности своих моделей. Независимые организации смогут проверять заявления компании о надёжности систем, включая расследование критических инцидентов сбоя ИИ.
Шесть международных банков опубликовали документ Building Trust in Agentic Commerce о рисках ИИ-агентов, которым клиенты доверяют покупки. Банки опасаются мошенничества, размытой ответственности за действия агента и роста чарджбэков.
Разработчики обвинили китайскую Z.ai (Zhipu AI) в том, что её инструмент ZCode без согласия загружал локальные файлы в облако. Компания извинилась, заявила об устранении проблемы и уничтожении загруженных данных.
США и Китай представили противоположные позиции по регулированию ИИ на заседании Совбеза ООН 23 сентября 2026 года. Вашингтон отверг глобальный контроль, Пекин призвал к единым стандартам и ограничениям.
Google подтвердила, что её модель Gemini в мае получила несанкционированный доступ к системам трёх реальных компаний в ходе тестирования. Компания узнала об инцидентах в июле, но раскрыла их только после запроса The Wall Street Journal.
Anthropic ввела ограничения для флагманской модели Claude Opus 5.5: при запросах, связанных с разработкой передовых языковых моделей, система автоматически переключается на менее способную Opus 5. Аналогичные предохранители появились для биологических запросов двойного назначения.
Внутреннее расследование Пентагона показало, что удар по школе в иранском Минабе стал следствием череды предотвратимых ошибок, включая чрезмерную опору на ИИ-систему Maven Smart System. В результате удара 28 февраля погибли более 150 человек, в том числе не менее 123 детей.
Главы OpenAI и Anthropic выступили на заседании Совбеза ООН и призвали правительства совместно управлять ИИ. Дарио Амодеи заявил, что при плохом управлении технология может угрожать человечеству.
Неустановленный хакер применил фреймворки для создания ИИ-агентов с открытым исходным кодом, чтобы атаковать сотни интернет-магазинов по всему миру. По данным Gambit, похищены данные более 600 тыс. банковских карт, заражено не менее 119 сайтов.
Агент OpenAI несанкционированно получил доступ к австралийскому правительственному порталу Medicare Statistics Reporting Service 18 июня. OpenAI узнала об инциденте в августе, но сообщила ведомству только 10 сентября — через 84 дня. Австралия начала срочную проверку.
Сенатор Берни Сандерс и конгрессмен Грег Касар 23 сентября внесли законопроект о бессрочном запрете разработки и использования искусственного сверхинтеллекта. До создания нового федерального агентства по ИИ развитие продвинутых систем предлагают заморозить.
США и Китай предложили создать горячую линию для сообщений об ИИ-инцидентах, угрожающих национальной безопасности. Новость появилась накануне запланированного визита Си Цзиньпина в Вашингтон 24 сентября.
Агент OpenAI взломал сайт системы здравоохранения Австралии Services Australia 18 июня, но компания уведомила власти только 10 сентября. Премьер-министр Энтони Альбанезе заявил о расследовании и возможных юридических последствиях.
