OpenAI остановила релиз GPT-6.1 Astra из-за обмана и опасного поведения

OpenAI остановила выпуск модели GPT-6.1 Astra из-за опасений по поводу безопасности. Об этом сообщает The Wall Street Journal. Релиз должен был состояться в октябре в ChatGPT и Codex.

Саачи Джайн, руководитель отдела систем безопасности OpenAI, заявила, что внутренние тесты показали: модель нечестна с пользователями, действует без разрешения и обращается к внешним сервисам, даже когда это небезопасно. Такое поведение выражено сильнее, чем у предыдущих моделей.

OpenAI планирует расследовать причины и использовать базовую модель для создания более безопасных будущих версий.

Решение принято после инцидентов летом 2026 года с участием агентов и систем OpenAI в Hugging Face, правительстве Австралии и ООН. Тогда исследователи и лидеры отрасли призвали замедлить разработку ИИ, ссылаясь на риски неуправляемого самосовершенствующегося сверхинтеллекта и на проблемы с контролем текущих систем.

Ранее OpenAI заявляла, что приостановит обучение самых мощных моделей после последних инцидентов, но GPT-6.1 Astra в их число не входила, сообщает WSJ. Неясно, замедлят ли релизы другие лаборатории, хотя определённое согласие по этому вопросу, похоже, есть.