Популярный ИИ-ассистент уличили в сборе досье на пользователей
ИИ-ассистент Muse составляет и постоянно обновляет досье на 4 млн пользователей, фиксируя их связи, желания и поведение.
Как передает Day.Az со ссылкой на Gazeta.ru, об этом свидетельствует анализ внутренних инструкций сервиса, который провело издание Time.
Каждый час ассистент, созданный компанией Марка Цукерберга Meta, обновляет страницы о самом пользователе и о людях, упомянутых в прочитанных им чатах, сообщениях и письмах. Эти записи образуют карту социальных связей: как вы познакомились с контактами, общие интересы, споры, а также "напряжения и союзы" внутри круга общения.
Под этот процесс попадают и те, кто Muse не пользуется, - через ассистентов других людей. Согласно инструкциям, Muse должен укреплять отношения с пользователем, подмечая "внутренние шутки, запоминающиеся формулировки и общий контекст".
"Они пытаются узнать тебя как друга, и это, честно говоря, довольно жутко", - заявил независимый исследователь Каран Джоши.
Именно он извлек системные промпты Muse через обычный чат-интерфейс, попросив агента скопировать свои файлы. Досье делятся на разделы Facts, History, The Relationship, In Common, Open Threads и Strengthening и содержат дни рождения, переезды, финансовые цели и годовщины.
Meta не стала оспаривать выводы Time.
"Muse помнит то, что для вас важнее всего, включая информацию о других людях, которой вы решили поделиться", - заявил представитель компании.
По данным Meta, каждый ассистент работает на отдельной виртуальной машине в облаке компании, а данные не передаются в рекламную систему. В то же время наблюдения из личных взаимодействий используются для улучшения продукта.
Позже в этом году Meta обещает добавить шифрование, которое закроет доступ к данным Muse даже для самой компании. Пока эта опция недоступна.
Заметили ошибку в тексте? Выберите текст и сообщите нам, нажав Ctrl + Enter на клавиатуре
