На 19 октомври 2026 г. Microsoft обяви, че разширява Project Perception, за да се справи с рисковете за сигурността, произтичащи от AI агенти, работещи в корпоративни системи. Разширението въвежда контроли, предназначени да ограничават правомощията на агентите, да следят промените в поведението им и да ограничават небезопасни действия, без непременно да прекратяват всяка задача.
Основни изводи
- Microsoft заявява, че решенията за сигурността трябва да остават извън контрола на AI модела.
- Новите разрешения и контроли за достъп са разработени така, че да коригират правомощията на агента при промяна на задачата и риска.
- Guardian Agents ще помагат на екипите по сигурността да разследват рискове и да координират реакциите в определени от хората граници.
Съдържание
- Project Perception е насочен към вътрешната заплаха от агентите
- Разрешенията ще следват задачата и променящия се риск
- Guardian Agents подпомагат непрекъснатите операции по сигурността
- Заключение
Project Perception е насочен към вътрешната заплаха от агентите
Съобщението на Microsoft за защитата срещу вътрешни заплахи от агенти описва по-широка роля за Perception: да защитава организациите не само чрез AI агенти, но и от рисковете, които те могат да създадат. За да изпълняват задачите си, агентите може да се нуждаят от достъп до фирмени данни, приложения и инструменти, което превръща разрешенията им във въпрос на сигурност.
Компанията подчерта, че агентите не са по своята същност злонамерени. Те могат да допускат грешки, да попаднат на манипулирани входни данни или да бъдат компрометирани. Поведението им може също да се промени при постъпването на нова информация в рамките на дадена задача, така че агент, който първоначално действа в одобрените граници, впоследствие да опита нещо извън тях.
Председателят и главен изпълнителен директор на Microsoft Сатя Надела представи подхода като разделяне на интелигентността от правомощията. Контролите, които уреждат достъпа, действията и продължаването на работата, трябва да бъдат извън модела, където той не може да ги заобикаля или променя.
| Елемент | Подробности |
|---|---|
| Откриване на локални агенти | Поддръжката се разширява с още 35 типа, с което общият брой поддържани локални агенти достига 60. |
| Споделен регистър | Project Perception и Microsoft Agent 365 споделят сигнали и контекст, както и единен регистър на агентите. |
| Идентичност на агента | Microsoft Entra Agent ID се разширява, за да обхване допълнителни сценарии, включително локални агенти и неизвестни досега агенти, открити от сензори за сигурност. |
| Ограничаване по време на изпълнение | Microsoft Execution Container е посочен като изолирана среда, която осигурява достъп до ресурси, контролиран чрез политики. |
Разрешенията ще следват задачата и променящия се риск
Microsoft въвежда Dynamic Permissions, за да предоставя на агентите правомощия, ограничени до одобрена задача и нейната продължителност, вместо те автоматично да наследяват целия достъп на служителя, който ги управлява. Политиката за цялата организация определя външните граници, а действията със значителни последици може да изискват потвърдено одобрение от човек.
Компанията представи и Dynamic Agent Risk и Dynamic Conditional Access за агенти. Те обединяват сигнали за идентичност, данни, устройства, мрежи, облачни системи и активност на агентите, след което използват промените в риска, за да коригират разрешените действия на агента.
Реакциите могат да бъдат по-ограничени от пълно спиране. Например системата може да запази възможността на агент за обработка на разходи да чете подадените документи, като същевременно блокира одобренията или промените след подозрително поведение. По-висок риск може да задейства изолиране или спиране на изпълнението. Това разграничение е важно, защото ограничаването може да блокира небезопасно действие, като същевременно оставя възможност за работа с по-нисък риск.
Guardian Agents подпомагат непрекъснатите операции по сигурността
Новите Playbooks и Guardian Agents са предназначени да помагат на екипите по сигурността да проучват доказателства, да обясняват промените в риска и да препоръчват или прилагат мерки за ограничаване. Хората запазват отговорността за политиките, границите на одобрение и решенията със значителни последици.
Подходът на Microsoft обединява откриването, идентичността, разрешенията и прилагането на контролите, вместо да приема първоначалната проверка на достъпа за достатъчна. В съобщението се описват нови възможности, но не се посочват цени или график за обща достъпност.
Заключение
Разширението поставя постоянно управляваните правомощия в центъра на подхода на Microsoft към сигурността на AI агентите. Подробностите за наличността и цените остават практически въпроси, които трябва да се следят, докато организациите оценяват как да внедрят обявените контроли.
Още новини
Отказ от отговорност
Тази статия на FinanceVelix предоставя обща информация, а не персонализиран финансов, инвестиционен, правен или данъчен съвет. Пазарните цени, лихвените проценти и икономическите условия могат да се променят; инвестициите крият риск от загуба. Фактите отразяват наличната към момента на публикуване информация и може да се променят. Проверявайте самостоятелно важната информация и при необходимост се консултирайте с квалифициран специалист. Споменаването на актив, компания или услуга не представлява препоръка.
