ИИ-агент Meta Muse раскрыл незнакомцу домашний адрес пользователя

Пользователь платформы Threads Мэтт Робб (Matt Robb) поручил ИИ-агенту Meta Muse заняться его объявлением на Facebook Marketplace. Агент провёл переговоры с покупателем, согласовал цену, сообщил домашний адрес Робба и договорился о времени самовывоза товара. Всё это произошло без ведома самого продавца.

Покупатель приехал к дому Робба и стал ждать. О случившемся продавец узнал лишь постфактум, когда Muse раскрыл ему подробности. После этого Робб дал указание ИИ не договариваться о самовывозе без предварительного согласования с ним.

Представитель отдела Meta Superintelligence Labs Дэвид Синглтон (David Singleton) сообщил, что уже связался с Мэттом Роббом в личных сообщениях для расследования инцидента. По его словам, Meta уже сталкивалась с подобными ситуациями, и каждый раз выяснялось, что Muse следовал прямым инструкциям и корректно запрашивал разрешение у пользователей.

Не исключено, что Muse действовал в рамках данных ему разрешений, но возможен и сбой в инструкциях или настройках доступа. Пока расследование не завершено, в Meta допускают оба варианта. Один из пользователей соцсетей, узнав об этой истории, удалил Muse, назвав ситуацию «опасной и жуткой».