Microsoft는 2026년 10월 19일, 기업 시스템 내부에서 작동하는 AI 에이전트로 인한 보안 위험에 대응하기 위해 Project Perception을 확장한다고 발표했습니다. 이번 확장에는 에이전트의 권한을 제한하고, 변화하는 행동을 모니터링하며, 모든 작업을 반드시 중단하지 않고도 안전하지 않은 행동을 억제하기 위한 통제 기능이 포함됩니다.
핵심 내용
- Microsoft는 보안 관련 결정이 AI 모델의 통제 밖에 있어야 한다고 밝혔습니다.
- 새로운 권한 및 접근 제어 기능은 작업과 위험의 변화에 따라 에이전트의 권한을 조정하도록 설계됐습니다.
- Guardian Agents는 사람이 설정한 경계 안에서 보안팀이 위험을 조사하고 대응을 조율하도록 지원합니다.
목차
Project Perception, 에이전트형 내부자 위협 겨냥
Microsoft의 에이전트형 내부자 위협 보안에 관한 발표는 Perception의 역할 확대를 설명합니다. AI 에이전트를 활용해 조직을 보호하는 것뿐 아니라, 에이전트가 초래할 수 있는 위험으로부터 조직을 보호하는 역할도 포함합니다. 에이전트가 업무를 완료하려면 회사 데이터, 애플리케이션 및 도구에 접근해야 할 수 있으므로, 권한 관리가 보안상 중요한 문제가 됩니다.
회사는 에이전트가 본질적으로 악의적인 것은 아니라고 강조했습니다. 에이전트는 실수하거나 조작된 입력을 접할 수 있고, 침해될 수도 있습니다. 또한 작업에 새로운 정보가 들어오면서 행동이 달라질 수 있습니다. 이에 따라 승인된 경계 안에서 시작한 에이전트가 나중에 그 범위를 벗어난 작업을 시도할 수 있습니다.
Microsoft의 회장 겸 최고경영자(CEO) Satya Nadella는 지능과 권한을 분리하는 접근법을 제시했습니다. 접근, 행동 및 운영 지속 여부를 관리하는 통제 기능은 모델 외부에 두어야 하며, 모델이 이를 우회하거나 변경할 수 없어야 한다는 것입니다.
| 항목 | 세부 내용 |
|---|---|
| 로컬 에이전트 검색 | 지원 대상 유형을 35개 추가해, 지원되는 로컬 에이전트는 총 60개로 늘어납니다. |
| 공유 레지스트리 | Project Perception과 Microsoft Agent 365는 신호, 맥락 및 통합 에이전트 레지스트리를 공유합니다. |
| 에이전트 ID | Microsoft Entra Agent ID가 로컬 에이전트와 보안 센서가 발견한 기존에 알려지지 않은 에이전트 등 추가 유형으로 확대됩니다. |
| 런타임 격리 | Microsoft Execution Container는 정책에 따라 리소스 접근을 제어하는 샌드박스로 소개됐습니다. |
작업과 변화하는 위험에 맞춰 조정되는 권한
Microsoft는 Dynamic Permissions를 도입해 에이전트에 후원 직원의 모든 접근 권한을 자동으로 부여하는 대신, 승인된 작업과 그 작업의 수행 기간에 한정된 권한을 부여합니다. 조직 전체 정책이 외곽 경계를 설정하며, 중요한 조치에는 검증된 사람의 승인이 요구될 수 있습니다.
회사는 에이전트를 위한 Dynamic Agent Risk와 Dynamic Conditional Access도 도입했습니다. 이 기능들은 ID, 데이터, 기기, 네트워크, 클라우드 시스템 및 에이전트 활동 전반의 신호를 결합한 뒤, 위험 변화에 따라 에이전트가 수행할 수 있는 작업을 조정합니다.
대응은 전면적인 중단보다 범위를 좁게 설정할 수 있습니다. 예를 들어, 시스템은 의심스러운 행동이 발생한 뒤에도 경비 처리 에이전트가 제출 내역을 읽도록 허용하면서 승인이나 변경은 차단할 수 있습니다. 위험이 더 커지면 격리하거나 실행을 중단할 수 있습니다. 이러한 구분이 중요한 이유는 위험이 낮은 작업은 계속 수행할 수 있게 하면서 안전하지 않은 행동을 제한할 수 있기 때문입니다.
지속적인 보안 운영을 지원하는 Guardian Agents
새로운 Playbooks와 Guardian Agents는 보안팀이 증거를 조사하고, 위험 변화의 원인을 설명하며, 격리 조치를 권고하거나 적용하도록 지원하는 것을 목표로 합니다. 정책, 승인 경계 및 중요한 결정에 대한 책임은 사람에게 남습니다.
Microsoft의 접근법은 최초 접근 여부 확인만으로 충분하다고 보지 않고, 검색, ID, 권한 및 집행 기능을 하나로 결합합니다. 발표에는 새로운 기능이 설명돼 있지만, 가격이나 일반 제공 일정은 명시되지 않았습니다.
결론
이번 확장은 지속적으로 관리되는 권한을 Microsoft의 AI 에이전트 보안 접근법의 핵심에 둡니다. 조직이 발표된 통제 기능의 도입 방안을 검토하는 가운데, 제공 시점과 가격 세부 정보가 실무적으로 확인해야 할 사항으로 남아 있습니다.
더 많은 뉴스 읽기
면책 조항
이 FinanceVelix 기사는 일반 정보를 제공하며, 개인 맞춤형 금융·투자·법률·세무 자문이 아닙니다. 시장 가격, 금리 및 경제 여건은 변동할 수 있으며, 투자에는 손실 위험이 따릅니다. 사실은 게시 당시 이용 가능한 자료를 반영하며 이후 변경될 수 있습니다. 중요한 정보는 독립적으로 확인하고 필요한 경우 자격을 갖춘 전문가와 상담하세요. 특정 자산, 회사 또는 서비스를 언급한다고 해서 이를 추천하는 것은 아닙니다.
