Шесть крупных банков выпустили принципы доверия к ИИ-агентам

Шесть крупных международных банков — Bank of America, Capital One, ASB Bank, Commonwealth Bank of Australia, ING Group и NatWest Group — выпустили совместный документ Building Trust in Agentic Commerce. В нём финансовые организации описали риски ИИ-агентов, которые совершают покупки от имени клиентов.

Банки предупреждают: «потребители не понимают, будут ли ИИ-агенты действовать в их интересах». Они опасаются, что «агенты купят не то, потратят слишком много или — что ещё хуже — потеряют деньги из-за мошенников».

Новая категория рисков

В документе агентная коммерция описана как отдельная категория рисков с иной механикой, чем традиционное интернет-мошенничество. Злоумышленники могут компрометировать или выдавать себя за ИИ-агентов и продавцов, а также применять новые формы социальной инженерии.

Отдельно банки указывают на размытую ответственность за действия агента: неясно, кто виноват, если ИИ превысил полномочия при покупке. Это оставляет потребителя незащищённым. Ещё один риск — лавинообразный рост числа чарджбэков и платёжных споров для продавцов.

Пять принципов

В ответ авторы документа сформулировали пять принципов, которым, по их мнению, должны следовать разработчики агентного ИИ:

• прозрачность;
• безопасность;
• защита приватности и данных;
• свобода выбора для потребителя;
• совместимость между платформами.

Банки настаивают, что ИИ-компании обязаны соблюдать стандарты процессинга платежей и не должны извлекать платёжные реквизиты напрямую с сайтов, как это уже делают некоторые недобросовестные провайдеры.

Контекст

Релиз документа совпал по времени сразу с двумя заметными событиями: публикацией сведений о серьёзной zero-day-уязвимости в агенте Muse от Meta* и объявлением Amazon о блокировке того же Muse на своей платформе. При этом тревогу забили именно регулируемые финансовые институты — сектор, где цена ошибки или мошеннической транзакции измеряется прямыми потерями клиентов и репутационным ущербом.

* Деятельность организации «Американская транснациональная холдинговая компания Meta Platforms Inc. по реализации продуктов — социальных сетей Facebook и Instagram» признана экстремистской и запрещена в РФ.