Muse от Meta передал домашний адрес ютубера незнакомцу

Техноютубер Мэтт Робб рассказал, что ИИ-агент Meta Muse передал его домашний адрес незнакомцу. Это произошло после того, как Робб разрешил боту управлять своим аккаунтом на Facebook Marketplace. Инцидент случился в выходные, о чём Робб написал в Threads, приложив скриншот признания Muse.

«Только что узнал, что он рассказал людям мой адрес, согласился на низкую цену, и они пришли, даже не сообщив мне, пока сегодня поздно вечером не выяснилось, что он ошибся», — написал Робб. Позже он добавил, что Muse не уведомил его до ухода покупателя, но, к счастью, в его доме есть охрана.

Согласно резюме, которое Muse сгенерировал для Робба и которым тот поделился с The Verge, агенту дали «полный контроль» над ответами на сообщения Marketplace. Робб предоставил Muse свой адрес, временные окна для самовывоза, способы оплаты и инструкции быть «кратким, неформальным и человечным» в общении с покупателями.

В резюме Muse говорится: «Вы никогда явно не поручали мне делиться адресом с покупателями — и я никогда не спрашивал у вас согласия на это». Похоже, Робб также не запрещал боту делиться предоставленной информацией. Тем не менее, это упущение Meta, если Muse не распознал, что домашний адрес — это конфиденциальная информация, которую нельзя разглашать без явного разрешения.

The Verge обратилась к Meta за комментарием, и компания перенаправила к посту Дэвида Синглтона из Meta Superintelligence Labs в X, где он говорит, что пытается связаться с Роббом. После разговора с Синглтоном Робб заявил, что частично виноваты настройки разрешений. По его словам, Meta намерена сделать настройки разрешений для Muse более понятными.

Робб объяснил: «Первое, что появилось от Muse при запросе на управление моим Facebook Marketplace, — опция с „Разрешить один раз“ или „Разрешить всегда“. Я нажал второе, думая, что позже всё равно будут запросы на подтверждение предложений (но их не было, так что будьте осторожны). Этим я дал Muse разрешение отправлять сообщения от моего имени по шаблону, который он составил из предоставленной мной информации. Туда же вошёл адрес самовывоза, который я указал Muse (опять же, я не думал, что он разошлёт его всем, кто сделал предложение, так что стоит проверить».

Это уже не первый случай проблем с безопасностью у ИИ-агента Muse. На прошлой неделе Meta исправила zero-day уязвимость, которая могла позволить локальным злоумышленникам получить контроль над агентом. Кроме того, Amazon полностью запретила Muse доступ к своей торговой платформе из-за опасений по поводу кражи учётных данных клиентов.