ИИ-агент Meta обвинили в тотальной слежке за пользователями
В ходе анализа внутренних документов выяснилось, что ИИ-агент от Meta Muse собирает подробную информацию о людях из близкого окружения пользователей, сообщает prosud.kz.
При этом ИИ получает доступ к банковским счетам, мессенджерам и другим персональным данным.
Все системные инструкции и файлы Muse оказались легкодоступными: ИИ-агент открыто делится ими, если пользователь просто попросит об этом в чате.
Независимый исследователь Каран Джоши и специалисты The Future Society извлекли системные промпты ассистента и выяснили, что одна из ключевых команд алгоритма — это ежечасный процесс создания и обновления отдельной страницы для каждого человека из окружения пользователя.
Досье формируются даже для тех лиц, которые сами не являются пользователями Muse или сервисов Meta.
Журналист издания Inc Джейсон Атен обвинил ИИ-агента Muse от Meta в возможности анализировать личные данные без разрешения от пользователя.
Автор решил протестировать нейросеть, поработав совместно с ней над созданием контента для работы. Атен попросил Muse придумать название для нового выпуска подкаста. В ответ ИИ-модель упомянула, что журналист недавно общался в iMessage с коллегой и обсуждал новые iPhone — это, по мнению Muse, может стать отличной темой грядущего эпизода.
Атен сообщил, что не давал таких полномочий ИИ-модели. Когда он спросил, как нейросеть сумела получить доступ к переписке, она ответила, что видела лишь всплывающее облако с частью текста на рабочем столе. Он проверил базу синхронизированных данных Muse и обнаружил, что там в том числе есть упоминания сообщений iMessage.
Глава Meta Superintelligence Дэвид Синглтон отреагировал на публикацию журналиста в социальных сетях. Он заявил, что такие действия со стороны Muse возможны только при наличии полного доступа к жесткому диску устройства.
Представители Meta заявили, что сбор информации производится только из публичных источников и данных, которыми пользователь добровольно делится с ассистентом. Все сведения хранятся в защищенной виртуальной машине (VM) каждого отдельного пользователя, которая недоступна другим ассистентам, а сам пользователь имеет возможность в любой момент очистить память ИИ.
Эксперты по этике подчеркивают, что через такие инструменты компания получает беспрецедентный объем контекстуальных данных о частной жизни людей без их прямого согласия.
Muse представили 9 сентября текущего года. В компании преподнесли ИИ-агента как универсального помощника с особым упором на безопасность данных и приватность пользователей.
Ранее стало известно, что Amazon ограничила доступ ИИ-ассистента Muse Meta. В компании объяснили блокировку ИИ-ассистента Muse Meta тем, что использование сервиса «нарушает правила сайта для неавторизованных ИИ-агентов».
