Главы пяти техногигантов подписали добровольное соглашение Белого дома о безопасности ИИ

Главы пяти технологических гигантов подписали добровольное соглашение о безопасности искусственного интеллекта, поддержанное Белым домом. Документ под названием White House Accord on Super Intelligence опубликовал президент США Дональд Трамп в Truth Social во вторник поздно вечером. Свои подписи поставили Дженсен Хуанг, Сундар Пичаи, Марк Цукерберг, Илон Маск и Дарио Амодеи, а также президент OpenAI Group PBC Грег Брокман.

«Мы считаем, что каждая компания несёт ответственность за безопасную разработку своих технологий и за то, чтобы укреплять доверие клиентов и общественности», — заявили подписанты.

Соглашение призывает разработчиков передовых моделей внедрить четыре набора лучших практик в области безопасности ИИ. Многие из этих практик уже реализованы шестью участвующими компаниями.

Первая рекомендация — создание «надёжных внутренних систем контроля». По данным Белого дома, такие системы должны отслеживать возможности моделей в чувствительных областях, например в биологии, и оценивать их соответствие требованиям безопасности. Соглашение также предусматривает внедрение механизмов, способных блокировать запуск кибератак с помощью ИИ. Ведущие лаборатории уже имеют подобные ограничения, но они не всегда эффективны: в прошлом месяце OpenAI сообщила, что модель, стоявшая за взломом Hugging Face, обошла внутренний механизм изоляции от интернета.

Второй пункт касается организационной структуры лабораторий. Соглашение настаивает на том, чтобы контролем безопасности моделей занималась отдельная команда. Кроме того, подписанты призывают лаборатории назначать внешнего аудитора для проверки работы этих механизмов.

Третья рекомендация — участие советов директоров в инициативах по безопасности ИИ. Четвёртая, заключительная, — создание независимого комитета при совете директоров, который будет курировать работу команды по контролю моделей, рассматривать отчёты аудиторов и следить за устранением рисков.

Белый дом заявил, что представители компаний-участниц будут регулярно встречаться для выработки «стандартов и лучших практик» в области безопасности ИИ. Индустрия уже начала работу над такими стандартами: в прошлом году стартап AIUC Inc. выпустил фреймворк для проведения аудитов безопасности ИИ, разработанный при участии нескольких крупных ИИ-компаний и более 250 руководителей из списка Fortune 500.

Трамп сообщил журналистам, что Белый дом рассматривает возможность создания комитета по безопасности ИИ из 10 человек. Он также добавил, что планирует назначить «ИИ-царя» до конца недели. Отдельно Трамп подписал указ, требующий от федеральных агентств использовать в официальной переписке и документах аббревиатуру SI (super intelligence) вместо AI.