Microsoft Peringatkan AI Agent Bisa Jadi Ancaman Keamanan Perusahaan

AKURAT.CO Microsoft memperkenalkan fitur keamanan baru untuk mengantisipasi risiko penggunaan kecerdasan buatan (AI) agent di lingkungan perusahaan. Teknologi ini mampu menjalankan tugas secara otomatis, tetapi juga berpotensi membahayakan data dan sistem jika tidak diawasi dengan baik.

Salah satu fitur baru yang diperkenalkan adalah Guardian Agents, yang dirancang untuk memantau aktivitas AI agent perusahaan. Fitur ini merupakan bagian dari Project Perception, proyek keamanan Microsoft yang pertama kali diperkenalkan pada Juni.

Project Perception sebelumnya memiliki tiga kelompok agent dengan fungsi berbeda untuk menangani ancaman siber. Red team menyimulasikan serangan, blue team mendeteksi kerentanan, sedangkan green team bertugas memperbaiki celah keamanan yang ditemukan.

Kini, Microsoft menyoroti kemungkinan ancaman yang justru berasal dari AI agent yang digunakan perusahaan sendiri. Kondisi ini menyerupai insider threat, yaitu ancaman internal dari pihak yang memiliki akses ke sistem organisasi.

CEO Microsoft, Satya Nadella, mengingatkan perusahaan agar tidak sepenuhnya bergantung pada jaminan keamanan dari penyedia model AI. Ia mendorong penggunaan sistem pengawasan independen untuk mengendalikan tindakan AI agent yang mengakses informasi penting.

Nadella menegaskan bahwa perusahaan tetap bertanggung jawab atas tindakan yang dilakukan AI atas nama perusahaan. Hal ini penting karena AI agent dapat mengakses data sensitif sekaligus menjalankan tugas yang berdampak besar terhadap operasional bisnis.

Kepala bisnis keamanan Microsoft, Hayete Gallot, turut memperingatkan risiko penggunaan model AI tercanggih. Menurutnya, teknologi tersebut tidak selalu dapat diprediksi dan belum tentu mampu mengikuti aturan serta pertimbangan yang berlaku di organisasi.

"Sayangnya, model perbatasan, terlepas dari asal-usulnya, tidak dapat dipercaya," tulis Gallot dalam pernyataannya, dikutip dari TechCrunch, Selasa (20/10/2026).

Risiko semakin besar ketika AI agent memperoleh akses luas ke data, perangkat dan sistem perusahaan. Kesalahan dalam menjalankan tugas dapat menimbulkan kerugian apabila tidak disertai pembatasan akses dan pengawasan yang memadai.

Melalui Guardian Agents, Microsoft ingin membantu perusahaan mengawasi aktivitas AI agent secara lebih ketat. Sistem ini juga mendukung pemisahan antara penyedia model AI dan pihak yang bertanggung jawab mengendalikan penggunaannya.