На недавней конференции Black Hat USA 2024 Майкл Баргури, бывший архитектор безопасности в Microsoft, осветил ряд уязвимостей в Microsoft 365 Copilot, которые могут быть использованы злоумышленниками. Его презентация показала тревожные методы, с помощью которых хакеры могут потенциально получить доступ к конфиденциальным учетным данным пользователей, вызывая серьезные опасения по поводу безопасности этого инструмента с искусственным интеллектом.
Уязвимости Microsoft 365 Copilot
Microsoft 365 Copilot, разработанный для повышения производительности в таких приложениях, как Word и Excel, использует данные пользователей для создания персонализированного опыта. Однако, как отметил Баргури, сложность современных фишинговых тактик, особенно тех, которые усилены ИИ, делает все более трудным для пользователей выявление угроз. «Хакер мог бы потратить дни на создание правильного письма, чтобы заставить вас нажать на него, но теперь они могут генерировать сотни таких писем за несколько минут», — заметил он в интервью Wired.
Необходимость дополнительных слоев безопасности
Рост технологий генеративного ИИ, таких как ChatGPT и Microsoft Copilot, преобразовал взаимодействие пользователей с цифровыми платформами. Тем не менее, эта эволюция также представила новые проблемы безопасности. Даже ветераны отрасли признают, что конкуренты, такие как OpenAI, меняют ландшафт, побуждая компании, такие как Microsoft, пересматривать свои стратегии.
Ранее в этом году Microsoft объявила о стратегической паузе в развертывании новых функций для Copilot, предпочитая сосредоточиться на доработке существующих функций на основе отзывов пользователей. Это решение соответствует более широкой инициативе по приоритету безопасности во всей технологической экосистеме компании. Генеральный директор Сатья Наделла подчеркнул эту приверженность во время отчета о доходах за третий квартал 2024 финансового года, заявив: «Безопасность лежит в основе каждого уровня технологического стека, и это наш приоритет номер один».
Меры по усилению безопасности
Несмотря на эти заверения, Microsoft столкнулась с критикой из-за ряда сбоев в безопасности, включая спорный отзыв функции Windows Recall на базе ИИ до ее запуска. В стремлении укрепить безопасность компания предприняла шаги по интеграции показателей безопасности в компенсационные пакеты своих топ-менеджеров, подчеркивая важность ответственности за защиту данных пользователей.
По мере того как ландшафт цифровой безопасности продолжает развиваться, необходимость в надежных мерах защиты остается первостепенной. Постоянные усилия Microsoft по устранению этих уязвимостей будут внимательно отслеживаться как экспертами отрасли, так и самими пользователями.
