Microsoft предупредила пользователей Windows о потенциальных угрозах нового экспериментального AI-агента Copilot Actions, который может инфицировать устройства и похищать конфиденциальные данные. Copilot Actions относится к набору функций, выполняющих повседневные задачи, такие как организация файлов и отправка писем, однако компания предупредила об их включении только при полном понимании возможных угроз безопасности.
Риски Copilot в системах безопасности Windows
Проблемы c безопасностью
Эксперты по безопасности указали на дефекты больших языковых моделей, такие как галлюцинации, когда модели выдают фактически неверную информацию, и инъекции команд, когда внедрённые инструкции могут изменить поведение агента. Эти уязвимости могут быть использованы для эксфильтрации данных и исполнения вредоносного кода.
Администрирование и контроль
Microsoft признала риски и сообщила, что Copilot Actions по умолчанию отключен. Администраторы могут настраивать работу агентов с помощью MDM-инструментов. Данное предупреждение компания выпустила после многочисленных проблем с безопасностью других AI-технологий.
Критика и опасения
Критики сравнили предупреждение Microsoft с давно игнорируемыми опасностями макросов Office. Они отметили, что пользователи могут легко обойти диалоги разрешений, и обвиняют компанию в попытках снять с себя ответственность за возможные проблемы.
