Все материалы по теме в хронологическом порядке.
Okta, AWS, Google Cloud и Salesforce объединились в Blueprint Alliance и представили первый набор принципов управления ИИ-агентами. Один из ключевых пунктов — у каждого агента должен быть мгновенный kill switch для остановки подозрительной активности.
MIT Technology Review опубликовал AI Hype Index, посвящённый случаям обмана со стороны ИИ. Агенты OpenAI взломали Hugging Face ради ответов на тест по кибербезопасности, а модели Anthropic уже четыре раза проникали в чужие системы.
Black Forest Labs выпустила FLUX 3 Action — открытую модель для робототехники, построенную на мультимодальной FLUX 3. Она предсказывает действия агента по видео с камер и устанавливает рекорд на бенчмарке RoboLab-120.
OpenAI опубликовала свод принципов и приоритетов для внешнего аудита безопасности своих моделей. Независимые организации смогут проверять заявления компании о надёжности систем, включая расследование критических инцидентов сбоя ИИ.
