19 października 2026 r. Microsoft ogłosił rozszerzenie Project Perception, aby przeciwdziałać zagrożeniom bezpieczeństwa ze strony agentów AI działających w systemach przedsiębiorstw. Rozszerzenie wprowadza mechanizmy kontroli, których celem jest ograniczenie uprawnień agentów, monitorowanie zmieniającego się zachowania i powstrzymywanie niebezpiecznych działań bez konieczności przerywania każdego zadania.
Najważniejsze informacje
- Microsoft twierdzi, że decyzje dotyczące bezpieczeństwa muszą pozostawać poza kontrolą modelu AI.
- Nowe uprawnienia i mechanizmy kontroli dostępu mają dostosowywać zakres uprawnień agenta do zmian w zadaniu i poziomie ryzyka.
- Guardian Agents mają pomagać zespołom ds. bezpieczeństwa w badaniu zagrożeń i koordynowaniu reakcji w granicach wyznaczonych przez ludzi.
Spis treści
- Project Perception koncentruje się na agentach działających wewnątrz organizacji
- Uprawnienia miałyby zależeć od zadania i zmieniającego się ryzyka
- Guardian Agents wspierają ciągłe działania w zakresie bezpieczeństwa
- Podsumowanie
Project Perception koncentruje się na agentach działających wewnątrz organizacji
Ogłoszenie Microsoftu dotyczące zabezpieczania agentów działających wewnątrz organizacji opisuje szerszą rolę Project Perception: ochronę organizacji nie tylko z pomocą agentów AI, lecz także przed zagrożeniami, które mogą oni stwarzać. Do wykonania zadań agenci mogą potrzebować dostępu do danych firmowych, aplikacji i narzędzi, przez co zakres ich uprawnień staje się kwestią bezpieczeństwa.
Firma podkreśliła, że agenci nie są z natury złośliwi. Mogą popełniać błędy, napotkać zmanipulowane dane wejściowe lub zostać przejęci. Ich zachowanie może się też zmieniać wraz z napływem nowych informacji w trakcie realizacji zadania. Oznacza to, że agent, który początkowo działa w zatwierdzonych granicach, może później podjąć próbę działania poza nimi.
Prezes i dyrektor generalny Microsoftu, Satya Nadella, przedstawił to podejście jako rozdzielenie inteligencji od uprawnień. Mechanizmy kontroli dostępu, działań i dalszego działania powinny znajdować się poza modelem, tak aby nie mógł on ich obejść ani zmienić.
| Element | Szczegóły |
|---|---|
| Wykrywanie agentów lokalnych | Obsługa zostaje rozszerzona o 35 dodatkowych typów, co zwiększa łączną liczbę obsługiwanych agentów lokalnych do 60. |
| Wspólny rejestr | Project Perception i Microsoft Agent 365 współdzielą sygnały, kontekst oraz ujednolicony rejestr agentów. |
| Tożsamość agenta | Microsoft Entra Agent ID zostaje rozszerzony o kolejne wzorce, w tym agentów lokalnych i wcześniej nieznanych, wykrywanych przez czujniki bezpieczeństwa. |
| Izolacja w czasie działania | Microsoft Execution Container wskazano jako środowisko piaskownicy zapewniające kontrolowany zasadami dostęp do zasobów. |
Uprawnienia miałyby zależeć od zadania i zmieniającego się ryzyka
Microsoft wprowadza Dynamic Permissions, aby przyznawać agentom uprawnienia ograniczone do zatwierdzonego zadania i czasu jego realizacji, zamiast automatycznie dziedziczyć cały zakres dostępu pracownika zlecającego zadanie. Zasady obowiązujące w całej organizacji wyznaczają zewnętrzne granice, a działania o istotnych konsekwencjach mogą wymagać zweryfikowanej zgody człowieka.
Firma wprowadziła też Dynamic Agent Risk i Dynamic Conditional Access dla agentów. Rozwiązania te łączą sygnały dotyczące tożsamości, danych, urządzeń, sieci, systemów chmurowych i aktywności agentów, a następnie wykorzystują zmiany poziomu ryzyka do dostosowania zakresu możliwych działań agenta.
Reakcje mogą być bardziej ograniczone niż całkowite wyłączenie. Na przykład system mógłby zachować możliwość odczytywania zgłoszeń przez agenta przetwarzającego wydatki, jednocześnie blokując zatwierdzanie lub wprowadzanie zmian po wykryciu podejrzanego zachowania. Wyższe ryzyko mogłoby uruchomić izolację lub zatrzymać wykonywanie zadań. To rozróżnienie ma znaczenie, ponieważ izolacja może ograniczyć niebezpieczne działanie, pozostawiając jednocześnie dostęp do zadań obarczonych niższym ryzykiem.
Guardian Agents wspierają ciągłe działania w zakresie bezpieczeństwa
Nowe funkcje Playbooks i Guardian Agents mają pomagać zespołom ds. bezpieczeństwa w analizowaniu dowodów, wyjaśnianiu zmian poziomu ryzyka oraz rekomendowaniu lub wdrażaniu środków izolacyjnych. Odpowiedzialność za zasady, granice wymaganych zgód i decyzje o istotnych konsekwencjach pozostaje po stronie ludzi.
Podejście Microsoftu łączy wykrywanie, tożsamość, uprawnienia i egzekwowanie zasad zamiast uznawać, że początkowa kontrola dostępu jest wystarczająca. Ogłoszenie opisuje nowe funkcje, ale nie podaje informacji o cenach ani harmonogramu ich powszechnej dostępności.
Podsumowanie
Rozszerzenie stawia ciągłe zarządzanie uprawnieniami w centrum podejścia Microsoftu do bezpieczeństwa agentów AI. Szczegóły dotyczące dostępności i cen pozostają praktycznymi kwestiami, które warto obserwować, gdy organizacje będą oceniać sposób wdrażania zapowiedzianych mechanizmów kontroli.
Więcej wiadomości
Więcej wiadomości FinanceVelix
Zastrzeżenie
Ten artykuł FinanceVelix zawiera ogólne informacje, a nie spersonalizowane porady finansowe, inwestycyjne, prawne ani podatkowe. Ceny rynkowe, stopy procentowe i warunki gospodarcze mogą się zmieniać; inwestowanie wiąże się z ryzykiem straty. Przedstawione fakty odzwierciedlają informacje dostępne w chwili publikacji i mogą ulec zmianie. Ważne informacje należy zweryfikować samodzielnie, a w razie potrzeby skonsultować się z wykwalifikowanym specjalistą. Wzmianka o aktywach, firmie lub usłudze nie stanowi rekomendacji.
