Трамп и IT-гиганты подписали добровольное соглашение о безопасности ИИ

Во вторник руководители Google, Anthropic, Meta, OpenAI, xAI и Nvidia подписали «White House Accord on Super Intelligence» — соглашение, анонсированное после обеда с президентом Дональдом Трампом. Трамп назвал это «актом огромного саморегулирования», однако документ не стал тем всеобъемлющим регулированием ИИ, которого добивались внутри самих компаний.

Соглашение носит добровольный характер. В нём говорится, что компании «должны внедрить» несколько мер: обеспечить «надёжный внутренний контроль» для мониторинга возможностей моделей и их способности не выходить из-под контроля и не взламывать системы unintended ways; «уполномочить» внутреннюю команду для этой работы и исправления ошибок; сотрудничать с внешним наблюдателем, «уполномоченным» проводить независимые оценки; а также создать комитет при совете директоров для получения отчётов о проделанной работе.

Однако надежды на полную поддержку со стороны правительства США быстро рассеялись после новостей о том, что Федеральная торговая комиссия (ФТК) намерена расследовать несколько ИИ-компаний на предмет потенциальных нарушений прав потребителей.

Соглашение стало итогом недель дебатов о регулировании ИИ. Оно также последовало за попытками передовых лабораторий получить антимонопольное исключение, чтобы координировать работу по безопасности без регуляторного надзора. По мнению экспертов по антимонопольному праву, такое исключение не нужно, поскольку угроза исчезновения человечества от ИИ, о которой предупреждают исследователи, сама по себе антиконкурентна — люди входят в любой рынок как его неотъемлемая часть.

Это не первое добровольное соглашение компаний о безопасности ИИ с правительством. В начале 2025 года Великобритания и Республика Корея объявили о «Frontier AI Safety Commitments», включающих обещания проводить внутренний и внешний ред-тиминг моделей на предмет «серьёзных и новых угроз», а также «работать над обменом информацией» по вопросам безопасности ИИ.

Google, Anthropic, Meta, OpenAI, xAI и Nvidia не ответили на запросы о комментариях. Белый дом также не ответил сразу. Нил Чилсон, бывший главный технолог ФТК, написал в X, что «это именно тот вид обязательства, которое ФТК потенциально может обеспечить, если компания существенно не выполнит обещания».

Невыполнение публичного обещания может считаться обманной деловой практикой и нарушением закона о ФТК. Когда комиссия обвиняет компанию в обмане потребителей, она обычно требует от компании пообещать больше не лгать. Например, недавно ФТК урегулировала дело с тремя компаниями, которые, по её утверждению, рекламировали услугу таргетинга рекламы на основе аудиозаписей со смартфонов и умных телевизоров, обманывая бизнес. В результате компании больше не имеют права искажать информацию о своих рекламных услугах и сборе голосовых данных.

OpenAI была на удивление открыта в отношении того, сколько раз её агенты проникали в чужие системы и как ей нужно улучшить практики безопасности. Но, как отмечали эксперты WIRED, правительство США может открывать расследования, даже если в итоге решит не применять санкции. Например, в 2023 году ФТК, как сообщалось, направила OpenAI гражданский следственный запрос, но чем это закончилось, неизвестно.

После обеда с Трампом во вторник New York Post сообщила, что ФТК планирует «масштабную проверку» Anthropic, OpenAI, других неназванных передовых лабораторий и некоммерческой организации METR, занимающейся сторонними оценками. METR и лаборатории не ответили на запросы о комментариях. По данным Post, комиссия пока не направила гражданские следственные запросы своим предполагаемым целям — обычно это один из первых шагов любого расследования. Представитель ФТК подтвердил наличие расследования, но отказался сообщить детали, включая конкретные проблемы защиты прав потребителей.

Председатель ФТК Эндрю Фергюсон, который был в списке приглашённых на обед по «сверхинтеллекту», ранее объяснял, что у правоприменителей не всегда есть полностью готовое дело с самого начала. «Ты постоянно ищешь дым, чтобы понять, есть ли огонь», — сказал он в прошлом году аудитории антимонопольных энтузиастов.

Даже если расследование ФТК продвинется и агентство выявит нарушения, некоторые скептически настроены, что это приведёт к каким-либо действиям против ИИ-компаний. «Американцам, обеспокоенным ИИ, должно быть отрадно, что ФТК расследует эти компании, — говорит Дуглас Фаррар, возглавлявший отдел по связям с общественностью ФТК при Лине Хан. — Но давайте помнить, что Фергюсон может председательствовать в ФТК, но Трамп ею управляет, и я сомневаюсь, что после вчерашнего любовного пиршества с его приятелями-руководителями ИИ-компаний Трамп позволит какие-либо серьёзные юридические действия против этих компаний».