Microsoft предупреждает о «двойных агентах» среди ИИ и запускает платформу Agent 365
Microsoft заявила о формировании нового класса киберрисков, связанных с корпоративными ИИ-системами. По данным отчёта Microsoft Cyber Pulse, более 80% компаний из списка Fortune 500 уже используют ИИ-агентов для автоматизации задач в продажах, поддержке, HR и других подразделениях. При этом 29% таких агентов внедрены без одобрения ИТ-отдела или службы безопасности, а только 47% организаций применяют специализированные средства защиты.
В компании вводят термин «двойные агенты» для обозначения сценариев, когда ИИ-системы, изначально созданные на благо бизнеса, могут быть скомпрометированы и начать действовать против интересов организации. Речь идёт о внедрении вредоносных промптов, инъекциях или закладках на уровне моделей. Внутренние тесты Microsoft показали, что такие агенты способны получать несанкционированный доступ к данным и выполнять вредоносные команды, фактически становясь цифровыми инсайдерами. По словам вице-президента Microsoft Security Васу Джаккала, компании теперь должны учитывать риск не только от сотрудников, но и от агентов.
Чтобы снизить эти угрозы, Microsoft представила платформу Agent 365 для централизованного управления и защиты ИИ-агентов по принципу zero trust. Сервис регистрирует всех агентов, присваивает им уникальные идентификаторы, контролирует их доступ к данным по моделям минимальных привилегий и отслеживает аномальное поведение в реальном времени. Подозрительные агенты могут быть оперативно заблокированы, а все их действия фиксируются для последующего аудита и расследований.
Agent 365 интегрируется с Microsoft Defender, Entra и Purview, расширяя существующую экосистему безопасности Microsoft 365 на «виртуальных пользователей». Платформа поддерживает агентов, созданных с помощью Copilot Studio, Microsoft Foundry и сторонних решений, предоставляя единую плоскость управления через Центр администрирования Microsoft 365. Для упрощения внедрения компания предлагает пакет Microsoft 365 Enterprise 7 (E7), объединяющий Agent 365, Copilot и расширенные средства безопасности в одной подписке за $99 в месяц на пользователя. По задумке Microsoft, это должно помочь корпорациям ускорить развертывание ИИ, не увеличивая при этом операционные и киберриски.
