Pada 19 Oktober 2026, Microsoft mengumumkan perluasan Project Perception untuk menangani risiko keamanan dari agen AI yang beroperasi di dalam sistem perusahaan. Perluasan ini menghadirkan kontrol yang dirancang untuk membatasi kewenangan agen, memantau perubahan perilaku, dan menahan tindakan yang tidak aman tanpa harus menghentikan setiap tugas.
Poin Penting
- Microsoft menyatakan bahwa keputusan keamanan harus tetap berada di luar kendali model AI.
- Izin dan kontrol akses baru dirancang untuk menyesuaikan kewenangan agen seiring perubahan tugas dan risiko.
- Guardian Agents akan membantu tim keamanan menyelidiki risiko dan mengoordinasikan respons dalam batas-batas yang ditetapkan manusia.
Daftar Isi
- Project Perception menyasar ancaman dari pihak internal berbasis agen
- Izin akan mengikuti tugas dan perubahan risiko
- Guardian Agents mendukung operasi keamanan berkelanjutan
- Kesimpulan
Project Perception menyasar ancaman dari pihak internal berbasis agen
Pengumuman Microsoft tentang pengamanan ancaman dari pihak internal berbasis agen menjelaskan peran Perception yang lebih luas: melindungi organisasi bukan hanya dengan agen AI, tetapi juga dari risiko yang dapat ditimbulkan oleh agen tersebut. Agen mungkin memerlukan akses ke data, aplikasi, dan perangkat perusahaan untuk menyelesaikan pekerjaan, sehingga izinnya menjadi perhatian keamanan.
Perusahaan menekankan bahwa agen pada dasarnya tidak bersifat jahat. Agen dapat membuat kesalahan, menghadapi input yang dimanipulasi, atau mengalami kompromi. Perilakunya juga dapat berubah ketika informasi baru masuk ke dalam suatu tugas. Artinya, agen yang awalnya beroperasi dalam batas yang disetujui mungkin kemudian mencoba melakukan sesuatu di luar batas tersebut.
Ketua sekaligus Chief Executive Officer Microsoft, Satya Nadella, menjelaskan pendekatan ini dengan memisahkan kecerdasan dari kewenangan. Kontrol yang mengatur akses, tindakan, dan kelanjutan operasi harus ditempatkan di luar model, sehingga model tidak dapat mengabaikan atau mengubahnya.
| Item | Detail |
|---|---|
| Penemuan agen lokal | Dukungan diperluas dengan 35 jenis tambahan, sehingga total ada 60 agen lokal yang didukung. |
| Registri bersama | Project Perception dan Microsoft Agent 365 berbagi sinyal, konteks, dan registri agen terpadu. |
| Identitas agen | Microsoft Entra Agent ID diperluas untuk mencakup pola tambahan, termasuk agen lokal dan agen yang sebelumnya tidak diketahui, yang ditemukan oleh sensor keamanan. |
| Pembatasan saat runtime | Microsoft Execution Container disebut sebagai sandbox yang menyediakan akses ke sumber daya berdasarkan kebijakan. |
Izin akan mengikuti tugas dan perubahan risiko
Microsoft memperkenalkan Dynamic Permissions untuk memberi agen kewenangan yang terbatas pada tugas yang disetujui dan durasinya, alih-alih secara otomatis mewarisi seluruh akses karyawan yang mensponsori agen tersebut. Kebijakan di seluruh organisasi menetapkan batas terluar, dan tindakan yang berdampak besar dapat memerlukan persetujuan manusia yang telah diverifikasi.
Perusahaan juga memperkenalkan Dynamic Agent Risk dan Dynamic Conditional Access untuk agen. Keduanya menggabungkan sinyal dari identitas, data, perangkat, jaringan, sistem cloud, dan aktivitas agen, lalu memanfaatkan perubahan risiko untuk menyesuaikan tindakan yang boleh dilakukan agen.
Respons dapat lebih terbatas daripada penghentian sepenuhnya. Sebagai contoh, sistem dapat mempertahankan kemampuan agen pemroses pengeluaran untuk membaca pengajuan, sambil memblokir persetujuan atau perubahan setelah terdeteksi perilaku mencurigakan. Risiko yang lebih tinggi dapat memicu isolasi atau menghentikan eksekusi. Perbedaan ini penting karena pembatasan dapat menghalangi tindakan yang tidak aman, sembari tetap memungkinkan pekerjaan berisiko lebih rendah.
Guardian Agents mendukung operasi keamanan berkelanjutan
Playbooks dan Guardian Agents baru dirancang untuk membantu tim keamanan memeriksa bukti, menjelaskan perubahan risiko, serta merekomendasikan atau menerapkan tindakan pembatasan. Manusia tetap bertanggung jawab atas kebijakan, batas persetujuan, dan keputusan yang berdampak besar.
Pendekatan Microsoft menyatukan penemuan, identitas, izin, dan penegakan, alih-alih menganggap pemeriksaan akses awal sudah memadai. Pengumuman tersebut menjelaskan kapabilitas baru, tetapi tidak menyebutkan harga atau jadwal ketersediaan umum.
Kesimpulan
Perluasan ini menempatkan kewenangan yang dikelola secara berkelanjutan sebagai inti pendekatan keamanan agen AI Microsoft. Detail ketersediaan dan harga tetap menjadi hal praktis yang perlu dicermati organisasi saat menilai cara menerapkan kontrol yang diumumkan.
Baca Berita Lainnya
Penafian
Artikel FinanceVelix ini menyediakan informasi umum, bukan nasihat keuangan, investasi, hukum, atau pajak yang dipersonalisasi. Harga pasar, suku bunga, dan kondisi ekonomi dapat berubah; investasi memiliki risiko kerugian. Fakta mencerminkan materi yang tersedia saat diterbitkan dan dapat berubah. Periksa informasi penting secara mandiri dan berkonsultasilah dengan profesional yang berkualifikasi bila diperlukan. Penyebutan aset, perusahaan, atau layanan bukan merupakan dukungan terhadapnya.
