В ассистенте Meta Muse нашли 0-day, дающий полный контроль над агентом

В ИИ-ассистенте Meta Muse обнаружили 0-day-уязвимость. Она позволяет локально запущенным приложениям и командам терминала получить полный контроль над агентом. Об этом сообщает Ars Technica.

Уязвимость ставит под сомнение заявления основателя и CEO Meta Марка Цукерберга о безопасности Muse. Он утверждал, что ассистент «создан с нуля с расчётом на приватность и безопасность».

Meta представила Muse несколько недель назад. По описанию компании, ассистент «бронирует встречи, заполняет формы и занимается клиентским сервисом», «проактивно снимает задачи с вашей повестки» и умеет «совершать покупки, генерировать изображения, создавать документы и подключаться к вашим любимым приложениям и сервисам».

Приложение выпущено только для macOS — версии для Windows нет. Оно также работает с WhatsApp, почтой, календарём и аккаунтами в соцсетях пользователя. Если для задачи не хватает инструмента, Muse создаёт его на ходу.

Чтобы ассистент выполнял эти действия, пользователь должен дать ему доступ к своим аккаунтам. Это включает аутентификацию в каждом сервисе и — поскольку приложение работает на macOS — разрешения на широкий набор ресурсов устройства, ограниченных операционной системой: запись файлов на диск, доступ к микрофону и камере, отслеживание местоположения и календарей.

Apple годами развивала эти защиты, чтобы установленные приложения или команды, введённые в терминале, не получали доступ к таким ресурсам. В Muse эти стандартные меры полностью обходятся.

Дополнительные вопросы вызвало решение Amazon: в воскресенье компания начала блокировать Muse на своём сайте.