Microsoft 19. října 2026 oznámil, že rozšiřuje Project Perception s cílem řešit bezpečnostní rizika spojená s AI agenty působícími v podnikových systémech. Rozšíření přináší kontroly, jejichž účelem je omezit pravomoci agentů, sledovat změny jejich chování a zadržet nebezpečné činnosti, aniž by bylo nutné zastavit každý úkol.
Hlavní body
- Microsoft uvádí, že bezpečnostní rozhodování musí zůstat mimo kontrolu samotného modelu AI.
- Nová oprávnění a kontroly přístupu mají upravovat pravomoci agenta podle toho, jak se mění jeho úkol a související riziko.
- Agenti Guardian pomohou bezpečnostním týmům vyšetřovat rizika a koordinovat reakce v mezích stanovených lidmi.
Obsah
- Project Perception se zaměřuje na agenty jako na interní hrozbu
- Oprávnění se mají řídit úkolem a měnícím se rizikem
- Agenti Guardian podporují průběžné bezpečnostní operace
- Závěr
Project Perception se zaměřuje na agenty jako na interní hrozbu
Oznámení Microsoftu o zabezpečení agentů jako interní hrozby popisuje širší roli Project Perception: chránit organizace nejen prostřednictvím AI agentů, ale také před riziky, která tito agenti mohou přinášet. Aby agenti mohli plnit své úkoly, mohou potřebovat přístup k firemním datům, aplikacím a nástrojům, takže jejich oprávnění představují bezpečnostní problém.
Společnost zdůraznila, že agenti nejsou ze své podstaty škodliví. Mohou dělat chyby, narazit na manipulované vstupy nebo být kompromitováni. Jejich chování se také může měnit s tím, jak do úkolu přicházejí nové informace. Agent, který zpočátku pracuje v rámci schválených mezí, se tak později může pokusit o něco, co je překračuje.
Předseda představenstva a generální ředitel Microsoftu Satya Nadella popsal tento přístup jako oddělení inteligence od pravomocí. Kontroly, které určují přístup, povolené činnosti a možnost pokračovat v provozu, by měly být umístěny mimo model, kde je nelze obejít ani změnit.
| Položka | Podrobnosti |
|---|---|
| Zjišťování lokálních agentů | Podpora se rozšiřuje o dalších 35 typů, takže bude celkem podporováno 60 lokálních agentů. |
| Sdílený registr | Project Perception a Microsoft Agent 365 sdílejí signály, kontext a jednotný registr agentů. |
| Identita agenta | Microsoft Entra Agent ID se rozšiřuje na další scénáře, včetně lokálních a dříve neznámých agentů, které odhalí bezpečnostní senzory. |
| Omezení za běhu | Microsoft Execution Container je uváděn jako sandbox, který poskytuje přístup ke zdrojům řízený zásadami. |
Oprávnění se mají řídit úkolem a měnícím se rizikem
Microsoft zavádí Dynamic Permissions, aby agentům přiděloval pravomoci omezené na schválený úkol a dobu jeho trvání, místo aby automaticky přebírali veškerý přístup zaměstnance, který je zaštiťuje. Vnější hranice stanovují zásady platné pro celou organizaci a u významných kroků může být vyžadováno ověřené schválení člověkem.
Společnost představila také Dynamic Agent Risk a Dynamic Conditional Access for agents. Tyto funkce kombinují signály z oblastí identity, dat, zařízení, sítí, cloudových systémů a aktivity agentů a následně na základě změn rizika upravují, co agent může dělat.
Reakce mohou být užší než úplné vypnutí. Systém by například mohl agentovi zpracovávajícímu výdaje ponechat možnost číst podání, ale po podezřelém chování mu zablokovat schvalování nebo provádění změn. Vyšší riziko může vést k izolaci nebo zastavení vykonávání. Tento rozdíl je důležitý, protože omezení může zablokovat nebezpečný úkon a zároveň ponechat dostupné činnosti s nižším rizikem.
Agenti Guardian podporují průběžné bezpečnostní operace
Nové funkce Playbooks a agenti Guardian mají bezpečnostním týmům pomáhat při vyšetřování důkazů, vysvětlování změn rizika a doporučování nebo uplatňování opatření k omezení hrozeb. Za zásady, hranice schvalování a významná rozhodnutí nadále odpovídají lidé.
Přístup Microsoftu propojuje zjišťování, identitu, oprávnění a vynucování pravidel, místo aby považoval úvodní kontrolu přístupu za dostačující. Oznámení popisuje nové funkce, neuvádí však jejich cenu ani harmonogram obecné dostupnosti.
Závěr
Rozšíření staví do středu bezpečnostního přístupu Microsoftu k AI agentům pravomoci, které jsou průběžně spravovány. Dostupnost a ceny zůstávají praktickými otázkami, které je třeba sledovat při posuzování nasazení oznámených kontrol organizacemi.
Další zprávy
Upozornění
Tento článek FinanceVelix poskytuje obecné informace, nikoli personalizované finanční, investiční, právní nebo daňové poradenství. Tržní ceny, úrokové sazby a ekonomické podmínky se mohou měnit; investice s sebou nesou riziko ztráty. Informace odpovídají podkladům dostupným v době zveřejnění a mohou se změnit. Důležité informace si nezávisle ověřte a v případě potřeby se obraťte na kvalifikovaného odborníka. Zmínka o aktivu, společnosti nebo službě nepředstavuje doporučení.
