Microsoft признала уязвимость в работе ИИ-ассистента Copilot

Корпорация Microsoft признала ошибку в работе ИИ-ассистента Copilot в Windows 11 и Microsoft 365.

Как передает Day.Az со ссылкой на Bleeping Computer, проблема заключалась в том, что ИИ некорректно обрабатывал электронную почту пользователей, включая сообщения с меткой конфиденциальности.

Ошибка затронула чат Microsoft 365 Copilot, который анализирует письма для создания сводок и выполнения рабочих задач. Несмотря на установленные метки "конфиденциально" и политики защиты данных, сервис продолжал создавать сводки, включая такие письма в разделе "Работа".

Microsoft пояснила, что средства контроля доступа и защиты данных оставались прежними, однако такое поведение не соответствовало ожиданиям от Copilot, который должен исключать доступ к защищенному контенту. Для корпоративных клиентов по всему миру было выпущено обновление конфигурации.

Причиной инцидента стала ошибка в программном коде, и, по заявлению компании, исправление уже внедряется, проблема считается устраненной.