19 жовтня 2026 року Microsoft оголосила про розширення Project Perception для протидії ризикам безпеки, пов’язаним із ШІ-агентами, що працюють у корпоративних системах. Розширення передбачає засоби контролю, покликані обмежувати повноваження агентів, відстежувати зміни в їхній поведінці та стримувати небезпечні дії, не обов’язково зупиняючи кожне завдання.
Ключові висновки
- За словами Microsoft, рішення з безпеки мають залишатися поза контролем моделі ШІ.
- Нові дозволи й засоби контролю доступу мають коригувати повноваження агента відповідно до змін завдання та рівня ризику.
- Guardian Agents допомагатимуть командам безпеки розслідувати ризики й координувати реагування в межах, установлених людьми.
Зміст
- Project Perception спрямований на протидію ризикам, пов’язаним з агентами-інсайдерами
- Дозволи мають відповідати завданню та змінам ризику
- Guardian Agents підтримують безперервну роботу служб безпеки
- Висновок
Project Perception спрямований на протидію ризикам, пов’язаним з агентами-інсайдерами
Оголошення Microsoft про захист від агентів-інсайдерів описує ширшу роль Perception: захищати організації не лише за допомогою ШІ-агентів, а й від ризиків, які вони можуть створювати. Щоб виконувати роботу, агентам може знадобитися доступ до даних компанії, застосунків та інструментів, тому їхні дозволи стають питанням безпеки.
Компанія наголосила, що агенти не є зловмисними за своєю суттю. Вони можуть припускатися помилок, стикатися з маніпулятивними вхідними даними або бути скомпрометованими. Їхня поведінка також може змінюватися в міру надходження нової інформації під час виконання завдання: агент, який спочатку діє в межах дозволеного, згодом може спробувати вийти за ці межі.
Голова ради директорів і генеральний директор Microsoft Сатья Наделла описав цей підхід як розмежування інтелекту та повноважень. Засоби контролю доступу, дій і подальшої роботи мають бути відокремлені від моделі, щоб вона не могла їх обійти чи змінити.
| Компонент | Деталі |
|---|---|
| Виявлення локальних агентів | Підтримку розширюють ще на 35 типів, тож загальна кількість підтримуваних локальних агентів сягне 60. |
| Спільний реєстр | Project Perception і Microsoft Agent 365 використовують спільні сигнали, контекст і єдиний реєстр агентів. |
| Ідентифікація агентів | Microsoft Entra Agent ID поширюється на додаткові типи, зокрема локальних і раніше невідомих агентів, виявлених засобами безпеки. |
| Ізоляція під час виконання | Microsoft Execution Container згадується як ізольоване середовище, що надає доступ до ресурсів відповідно до політик. |
Дозволи мають відповідати завданню та змінам ризику
Microsoft запроваджує Dynamic Permissions, щоб повноваження агентів обмежувалися затвердженим завданням і строком його виконання, а не автоматично охоплювали всі права доступу працівника, від імені якого діє агент. Загальноорганізаційна політика встановлює зовнішні межі, а для важливих дій може вимагатися підтверджене схвалення людини.
Компанія також представила Dynamic Agent Risk і Dynamic Conditional Access для агентів. Ці механізми об’єднують сигнали щодо ідентифікації, даних, пристроїв, мереж, хмарних систем і активності агентів, а потім використовують зміни рівня ризику для коригування дозволених агенту дій.
Реагування може бути менш суворим, ніж повне припинення роботи. Наприклад, система може залишити агенту з обробки витрат можливість читати подані документи, водночас блокуючи погодження або внесення змін після підозрілої поведінки. Вищий рівень ризику може призвести до ізоляції або зупинення виконання. Це розмежування важливе, оскільки стримування може обмежити небезпечну дію, залишивши доступною роботу з нижчим рівнем ризику.
Guardian Agents підтримують безперервну роботу служб безпеки
Нові Playbooks і Guardian Agents покликані допомагати командам безпеки аналізувати докази, пояснювати зміни рівня ризику та рекомендувати або застосовувати заходи стримування. Люди зберігають відповідальність за політики, межі схвалення та важливі рішення.
Підхід Microsoft об’єднує виявлення, ідентифікацію, дозволи та контроль виконання, а не вважає початкової перевірки доступу достатньою. В оголошенні описано нові можливості, але не наведено інформації про ціни чи строки загальної доступності.
Висновок
Розширення ставить безперервне управління повноваженнями в центр підходу Microsoft до безпеки ШІ-агентів. Інформація про доступність і ціни залишається практично важливим питанням для організацій, які оцінюють можливості впровадження оголошених засобів контролю.
Читайте більше новин
Застереження
Ця стаття FinanceVelix містить загальну інформацію, а не персоналізовані фінансові, інвестиційні, юридичні чи податкові рекомендації. Ринкові ціни, процентні ставки та економічні умови можуть змінюватися; інвестиції пов’язані з ризиком збитків. Факти відповідають матеріалам, доступним на момент публікації, і можуть змінитися. Самостійно перевіряйте важливу інформацію та за потреби звертайтеся до кваліфікованого фахівця. Згадка про актив, компанію чи послугу не є рекомендацією.
