19 октября 2026 года Microsoft объявила о расширении Project Perception для устранения рисков безопасности, связанных с ИИ-агентами, работающими во внутренних системах предприятий. Расширение включает средства контроля, призванные ограничивать полномочия агентов, отслеживать изменения в их поведении и сдерживать небезопасные действия, не обязательно прерывая выполнение каждой задачи.
Ключевые выводы
- По словам Microsoft, решения в сфере безопасности должны оставаться вне контроля модели ИИ.
- Новые разрешения и средства контроля доступа призваны корректировать полномочия агента по мере изменения задачи и связанных с ней рисков.
- Guardian Agents помогут командам безопасности расследовать риски и координировать ответные меры в рамках ограничений, установленных людьми.
Содержание
- Project Perception нацелен на инсайдера в лице ИИ-агента
- Разрешения должны зависеть от задачи и меняющихся рисков
- Guardian Agents помогают обеспечивать непрерывную работу служб безопасности
- Заключение
Project Perception нацелен на инсайдера в лице ИИ-агента
В объявлении Microsoft о защите от инсайдерских рисков, связанных с ИИ-агентами описана более широкая роль Perception: защита организаций не только с помощью ИИ-агентов, но и от рисков, которые могут возникать из-за их работы. Для выполнения задач агентам может требоваться доступ к корпоративным данным, приложениям и инструментам, поэтому выданные им разрешения становятся вопросом безопасности.
Компания подчеркнула, что агенты не являются злонамеренными по своей природе. Они могут ошибаться, получать манипулятивные данные на входе или становиться объектом компрометации. Их поведение также может меняться по мере поступления новой информации в рамках задачи: агент, который изначально действует в пределах разрешенных границ, впоследствии может попытаться выйти за них.
Председатель совета директоров и генеральный директор Microsoft Сатья Наделла описал этот подход как разделение интеллекта и полномочий. Средства контроля доступа, действий и продолжения работы должны находиться вне модели, где та не сможет обойти их или изменить.
| Пункт | Подробности |
|---|---|
| Обнаружение локальных агентов | Поддержка расширяется еще на 35 типов, в результате чего общее число поддерживаемых локальных агентов достигнет 60. |
| Общий реестр | Project Perception и Microsoft Agent 365 используют общие сигналы и контекст, а также единый реестр агентов. |
| Идентификация агента | Microsoft Entra Agent ID расширяется на дополнительные сценарии, включая локальных агентов и ранее неизвестных агентов, обнаруженных датчиками безопасности. |
| Изоляция во время выполнения | В качестве примера приводится Microsoft Execution Container — изолированная среда, обеспечивающая регулируемый политиками доступ к ресурсам. |
Разрешения должны зависеть от задачи и меняющихся рисков
Microsoft внедряет Dynamic Permissions, чтобы предоставлять агентам полномочия только в пределах одобренной задачи и на время ее выполнения, а не автоматически наследовать весь объем доступа сотрудника, от имени которого они действуют. Общекорпоративные политики задают внешние границы, а для значимых действий может требоваться подтверждение личности человека.
Компания также представила Dynamic Agent Risk и Dynamic Conditional Access для агентов. Эти инструменты объединяют сигналы из систем управления идентификацией, данными, устройствами, сетями, облачной инфраструктурой и активностью агентов, а затем используют изменения уровня риска для корректировки доступных агенту действий.
Ответные меры могут быть более точечными, чем полное отключение. Например, система может оставить агенту по обработке расходов возможность читать заявки, но блокировать утверждение или изменение данных после подозрительного поведения. При более высоком риске может запускаться изоляция или прекращаться выполнение. Это различие важно: локализация угрозы позволяет ограничить небезопасное действие, сохранив возможность выполнять задачи с более низким уровнем риска.
Guardian Agents помогают обеспечивать непрерывную работу служб безопасности
Новые Playbooks и Guardian Agents призваны помогать командам безопасности исследовать свидетельства, объяснять изменения уровня риска, а также рекомендовать или применять меры локализации угроз. Люди сохраняют ответственность за политики, границы одобрения и решения, имеющие серьезные последствия.
Подход Microsoft объединяет обнаружение, идентификацию, разрешения и обеспечение соблюдения правил, а не считает первоначальную проверку доступа достаточной мерой. В объявлении описаны новые возможности, однако цены и сроки общего доступа не указаны.
Заключение
В рамках расширения непрерывное управление полномочиями становится центральным элементом подхода Microsoft к безопасности ИИ-агентов. По мере оценки организациями возможностей внедрения объявленных средств контроля важными практическими вопросами остаются сроки доступности и цены.
Читайте другие новости
Отказ от ответственности
Эта статья FinanceVelix содержит общую информацию и не является персональной финансовой, инвестиционной, юридической или налоговой консультацией. Рыночные цены, процентные ставки и экономические условия могут меняться; инвестиции сопряжены с риском убытков. Факты отражают информацию, доступную на момент публикации, и могут измениться. Самостоятельно проверяйте важную информацию и при необходимости обращайтесь к квалифицированному специалисту. Упоминание актива, компании или услуги не является рекомендацией.
