Keamanan Agen AI: Bagaimana Seharusnya TI Mengontrol Akses Non-Manusia ke Aplikasi Bisnis?

Keamanan agen AI menjadi sangat penting ketika perangkat lunak otonom dapat mengakses aplikasi bisnis, mengambil data sensitif, dan melakukan tindakan tanpa keterlibatan manusia yang terus-menerus. Bagi tim TI, tantangannya adalah menetapkan identitas, akses, dan ruang lingkup apa yang harus diberikan kepada mereka untuk menggabungkan efisiensi dan perlindungan.

Seiring organisasi memperkenalkan agen AI ke dalam alur kerja sehari-hari, sysadmin dan manajer keamanan harus memperluas kebijakan akses di luar pengguna manusia dan akun layanan tradisional. Panduan ini menjelaskan cara mengelola identitas non-manusia, menerapkan hak akses minimum, dan melindungi aplikasi modern maupun warisan. Saya memberikan langkah-langkah praktis untuk admin sistem, tim TI, dan MSP yang bekerja untuk mengadopsi AI sambil meminimalkan paparan.

Mengapa Akses Agen AI Menciptakan Masalah Keamanan Baru?

Manajemen akses tradisional umumnya membedakan pengguna manusia dari aplikasi dan layanan. Agen AI memperumit model ini karena mereka dapat menginterpretasikan informasi, memilih alat, dan memulai operasi berdasarkan keadaan yang berubah.

Automatisasi, tetapi bukan seperti yang kita ketahui:

Tidak seperti otomatisasi konvensional, di mana tindakan biasanya telah ditentukan sebelumnya, agen AI dapat menentukan langkah-langkah apa yang harus diambil saat bekerja menuju tujuan yang lebih luas. Variabel yang diperkenalkan ini memiliki jangkauan yang luas, karena baik karena kesalahan, kurangnya referensi, atau instruksi jahat, AI mungkin dengan mudah melanggar izin yang menyebabkan hasil yang tidak diinginkan. Bagi tim TI, tindakan awal adalah mendefinisikan tujuan agen AI dan batasan yang dapat ditegakkan sebelum memberikan akses produksi.

Dari membaca data bisnis hingga bertindak berdasarkan data tersebut:

Pertimbangkan agen AI yang diterapkan untuk mengambil catatan faktur, membandingkan informasi pembayaran, dan menghasilkan laporan pengecualian. Apa saja batasan dan langkah-langkah pengamanan yang dapat diterapkan untuk mencegah tindakan yang salah dalam aplikasi akuntansi?

Autentikasi tidak sama dengan otorisasi:

Sementara otentikasi menetapkan identitas mana yang mencoba mengakses sumber daya, otorisasi menentukan operasi mana yang dapat dilakukan identitas tersebut. Untuk agen AI, keputusan ini harus tetap terpisah.

Agen yang berhasil diautentikasi seharusnya tetap hanya menerima otorisasi yang relevan dengan tugasnya, sumber daya yang diperlukan, dan dibatasi oleh konsekuensi potensial dari tindakan tersebut.

Dalam 2026 bekerja pada perangkat lunak dan identitas agen AI NIST menyoroti perlunya menangani identitas, otoritas, audit, dan akuntabilitas untuk agen AI.

Tujuan keamanan bukan hanya untuk memutuskan aplikasi mana yang dapat dibuka oleh agen. IT perlu mengontrol apa yang dapat dilakukan agen setelah akses diberikan.

Identitas Apa yang Harus Digunakan oleh Agen AI?

Agen AI memerlukan identitas yang dapat dikenali dan dikelola sehingga administrator dapat menetapkan izin, memantau aktivitas, dan mencabut akses saat diperlukan.

Identitas khusus dan kredensial beban kerja

Di mana didukung, buat identitas beban kerja atau agen, yang terikat pada pemilik yang disebutkan dan fungsi tertentu, untuk melacak akuntabilitas dan mengunci hak istimewa untuk tugas yang diperlukan.

Selain itu, ini membantu membedakan aktivitas otomatis dari aktivitas manusia, menerapkan kebijakan keamanan yang khusus dan menonaktifkan agen tanpa mempengaruhi akses karyawan, seperti di Microsoft Entra Agent ID. Tujuannya adalah untuk menjaga agen AI tetap terfokus, terdokumentasi dengan baik, dan dapat diaudit secara independen.

Akses delegasi versus akses otonom

Agen AI dapat beroperasi di bawah berbagai model otorisasi.

Akses delegasi memungkinkan seorang agen untuk bertindak atas nama pengguna manusia, dalam batasan izin yang secara eksplisit didelegasikan kepadanya, mungkin hanya untuk waktu yang ditentukan.

Akses otonom memungkinkan agen untuk beroperasi melalui identitas dan izin yang ditugaskan, tanpa memerlukan sesi manusia yang aktif. Pentingnya, kebijakan akses dan kontrol siklus hidup harus ditetapkan untuk agen AI otonom serta kepemilikan.

Catatan tentang MFA

Akun bersama menyulitkan untuk menentukan dari mana suatu tindakan berasal: dari seorang karyawan, agen AI, atau proses otomatis lainnya. Agen AI tidak boleh bergantung pada kredensial karyawan, terutama tidak untuk otomatisasi rutin.

Sementara otentikasi multi-faktor (MFA) sangat berharga untuk akses manusia, kebutuhan otonom didukung oleh mekanisme identitas beban kerja. Beberapa contoh, menurut aplikasi dan infrastruktur identitas:

• identitas terkelola,
• kredensial terfederasi,
• sertifikat
• atau token jangka pendek.

Bagaimana Seharusnya TI Membatasi Akses Agen AI?

Di sini, prinsip hak akses minimal sangat penting, untuk memberikan akses hanya kepada sumber daya dan operasi yang diperlukan untuk tujuan yang disetujui.

Hak akses minimal di seluruh aplikasi, alat, dan data

• Izin alat: API, skrip, integrasi, dan alat eksekusi apa yang dapat dipanggil oleh agen?
• Izin aplikasi : Aplikasi dan fungsi bisnis apa yang dapat diakses?
• Izin data: Rekaman, folder, file, atau basis data mana yang dapat dibacanya? Dapatkah ia memodifikasi?
• Izin sistem: Dapatkah ia mengeksekusi perintah, mengakses sistem operasi, atau melakukan operasi administratif?

Akses agen AI harus dipertimbangkan pada tingkat ini, dan tidak ada izin yang harus diberikan hanya berdasarkan permintaan. Lapisan-lapisan ini juga harus saling memperkuat.

Izin aplikasi juga harus tetap dapat ditegakkan secara independen dari pengaturan model AI. Sebuah perintah yang memberi tahu agen untuk tidak mengubah detail pembayaran tidak setara dengan kontrol teknis yang mencegah modifikasi.

Untuk organisasi yang memperkuat infrastruktur akses yang ada, kami Prinsip Zero Trust untuk akses jarak jauh SMB verifikasi identitas, hak akses minimal, dan membatasi paparan.

Akses terbatas waktu dan operasi sensitif

Izin harus mencerminkan tidak hanya apa yang dibutuhkan oleh agen, tetapi juga kapan dan mengapa akses diperlukan. Otorisasi terbatas waktu dapat mengurangi paparan antara tugas yang disetujui, begitu juga dengan kontrol tambahan. Anda mungkin menegakkan tindakan tertentu melalui penyedia identitas, gerbang alat, aplikasi, atau mekanisme kebijakan tepercaya lainnya daripada hanya mengandalkan AI.

Bagaimana Keamanan Agen AI Berbeda di Berbagai Aplikasi Bisnis?

Tidak setiap aplikasi menyediakan mekanisme yang sama untuk mengontrol akses AI. Tim TI perlu menyesuaikan kontrol akses dengan lingkungan dan kebutuhan mereka.

Aplikasi SaaS dan API

Aplikasi SaaS modern sering menyediakan API yang mendukung token akses terarah, peran aplikasi, dan izin yang didelegasikan.

Meskipun mereka dapat membuat otorisasi agen lebih tepat, izin API masih dapat terlalu luas, jadi administrator harus meninjau cakupan, membatasi akses, dan secara teratur menghapus izin.

Aplikasi bisnis berbasis browser

Aplikasi berbasis browser memperkenalkan tantangan yang berbeda dalam interaksi antarmuka grafis.

Organisasi harus menggunakan akun khusus, membatasi aplikasi yang tersedia dengan ketat, dan menegakkan otorisasi di dalam perangkat lunak bisnis itu sendiri. Artikel kami tentang akses browser yang aman ke aplikasi pribadi menjelaskan bagaimana penugasan aplikasi, otentikasi, dan kontrol sisi server dapat mengurangi paparan yang tidak perlu.

Aplikasi Windows lama dan desktop jarak jauh

Aplikasi Windows warisan menghadirkan tantangan tertentu karena kontrol akses mereka umumnya dirancang untuk pengguna manusia daripada proses otonom.

Akses

Namun, teknologi akses dan eksekusi akan tetap terpisah, apa pun peran bisnis, izin, akun Windows, grup direktori, atau akses tingkat aplikasi yang lebih luas. Jenis akses grafis tetap merupakan keputusan admin dan artikel kami tentang Agen AI dan aplikasi Windows lama menjelajahi implikasi teknis dan arsitektural dari berbagai lingkungan eksekusi.

Keamanan

Untuk masalah keamanan, akses dan izin tidak dapat dicampur. Menerbitkan aplikasi Windows tertentu berarti mengurangi paparan secara keseluruhan, tetapi ini hanya merupakan awal dari strategi kontrol akses yang lebih luas. Pekerjaan admin Anda sudah ditentukan:

Mekanisme akses	Kontrol keamanan utama	Kekhawatiran utama
API SaaS	OAuth scopes, tokens, peran API	Izin yang terlalu luas, penyalahgunaan token
Aplikasi browser	Sesi, peran aplikasi	Tindakan tidak sah dalam sesi yang valid
Aplikasi Windows yang diterbitkan	Identitas Windows, penugasan aplikasi, izin	Akses di luar tugas yang dimaksud
Desktop jarak jauh penuh	hak OS, pembatasan sesi, penguatan	Paparan sistem yang lebih luas dan pergerakan lateral

Risiko Keamanan Siber Apa yang Memerlukan Kontrol Tambahan?

Agen AI dapat menemui instruksi berbahaya dalam tiket dukungan, halaman web, dokumen, atau respons alat. Ini injeksi prompt dapat mengalihkan agen dari tugasnya yang sah, bahkan ketika penyerang tidak dapat masuk secara langsung. OWASP Top 10 untuk Aplikasi Agentic 2026 menggarisbawahi ancaman yang relevan.

Risiko lainnya termasuk kredensial yang terpapar dalam prompt atau log, penggunaan alat yang tidak sah, eskalasi hak istimewa, dan data sensitif yang dikirim ke tujuan yang tidak diinginkan. Alur kerja multi-agen menambah kekhawatiran lain: tugas yang didelegasikan tidak boleh secara otomatis memberikan akses tanpa batas dari satu agen ke agen lainnya.

Untuk menghindari eksfiltrasi data dan sejenisnya, perlakukan konten eksternal sebagai tidak tepercaya, lindungi rahasia melalui layanan kredensial yang didukung, batasi koneksi keluar dan tegakkan izin secara independen dari model AI. Operasi sensitif memerlukan kontrol di tingkat aplikasi atau alat, bukan hanya instruksi yang dapat diinterpretasikan yang memberi tahu agen untuk berperilaku dengan aman.

Bagaimana IT Dapat Memantau, Mencabut, dan Mengaudit Akses Agen AI?

Tata kelola akses tidak lengkap jika administrator tidak dapat menentukan apa yang telah dilakukan oleh agen atau menghentikannya ketika perilakunya menjadi tidak terduga.

Melacak identitas, keputusan, dan tindakan

Catatan audit yang berguna: identitas agen + pemilik yang bertanggung jawab + operasi yang diminta + persetujuan + pemanggilan alat + tindakan yang dihasilkan + hasil.

Bergantung pada alat yang terlibat, catatan akan bervariasi. Tidak ada satu sumber pun yang menceritakan keseluruhan cerita, sehingga kombinasi dari peristiwa otentikasi, penerbitan token akses, panggilan API, aktivitas aplikasi, persetujuan, modifikasi file, dan aktivitas sesi diperlukan sebagai bukti. Misalnya, gabungkan log identitas dengan rekaman sesi, mengaitkan catatan di mana memungkinkan.

Selain itu, lindungi informasi sensitif di mana pun memungkinkan. Misalnya, jika Anda adalah MSP, pisahkan catatan audit berdasarkan pelanggan untuk menjaga data mereka.

Mencabut akses dan menanggapi insiden

Tentukan prosedur pem shutdown per penerapan agen AI, sebelum produksi.

Tergantung pada lingkungan, ini mungkin memerlukan penonaktifan identitas agen AI, pencabutan kredensial, rotasi rahasia, penghentian sesi aktif, dan penghentian pekerjaan terjadwal. Setelah selesai, evaluasi token yang telah dikeluarkan sebelumnya atau sesi yang telah ditetapkan: pencabutan satu kredensial tidak selalu cukup untuk menghentikan proses yang sudah aktif.

Anda dapat menyertakan hal berikut dalam prosedur respons "perilaku buruk" yang praktis:

• mengandung akses,
• mempertahankan log,
• menyelidiki perubahan,
• ganti kredensial
• dan memvalidasi bahwa insiden yang tidak sah telah berakhir.

Apa itu Daftar Periksa Keamanan Agen AI Praktis untuk Tim IT?

Mengapa tidak mendekati keamanan agen AI secara bertahap? Mulailah dengan alur kerja yang sempit, sebaiknya hanya baca, kemudian perluas hanya setelah memvalidasi kontrol. Sebelum memberikan akses produksi kepada agen:

1. Identifikasi kepemilikan. Dokumentasikan tujuannya, operator/pemilik, lingkungan eksekusi, alat, dan aliran data.
2. Tugaskan identitas yang berbeda. Hindari kredensial manusia yang dibagikan. Tetapkan akuntabilitas terpisah.
3. Peta dan batasi sumber daya yang diizinkan. Tentukan aplikasi, catatan, data, sistem, izin API yang diperlukan, rentang waktu.
4. Batasi tindakan sensitif. Tentukan persyaratan persetujuan dan larang perubahan berdampak tinggi serta hak istimewa yang tidak perlu.
5. Lindungi kredensial. Gunakan otentikasi beban kerja yang didukung dan rahasia yang dikelola.
6. Validasi lingkungan eksekusi. Tinjau isolasi sesi, akses jaringan, dan pengaturan keamanan Windows yang relevan.
7. Aktifkan bukti dan pemulihan: catat rekaman autentikasi, eksekusi alat, aktivitas aplikasi, dan perubahan signifikan.
8. Skenario kegagalan pengujian: akses dapat dicabut, sesi dapat dihentikan dan aktivitas yang tidak terduga dapat diselidiki.

Sebagai contoh, seorang MSP dapat mengarahkan agen untuk membaca catatan faktur ERP yang dipilih dan menyiapkan laporan, tanpa memberikan izin untuk mengedit data keuangan. Hanya keandalan yang terbukti dan izin yang dapat ditegakkan yang harus membenarkan wewenang yang lebih luas.

Bagaimana TSplus Dapat Membantu Mengamankan Akses Aplikasi Windows?

Untuk organisasi yang menjalankan perangkat lunak bisnis berbasis Windows, infrastruktur akses jarak jauh yang mendasarinya juga merupakan bagian dari proses keamanan tersebut. Kemampuan pengiriman aplikasi TSplus dan perlindungan server membantu administrator sistem mengontrol akses ke aplikasi Windows yang dihosting secara terpusat.

TSplus Remote Access: Pengiriman Aplikasi dan Penugasan

TSplus Remote Access menerbitkan dan menetapkan aplikasi Windows, menjadikannya tersedia melalui koneksi jarak jauh, termasuk akses berbasis web. Menyediakan aplikasi yang ditetapkan daripada seluruh desktop dapat berpartisipasi dalam mengurangi paparan antarmuka yang tidak perlu dalam alur kerja AI semacam itu, terutama yang melibatkan perangkat lunak bisnis yang ada dan lama.

TSplus Advanced Security: Melindungi Server dan Sesi Windows

TSplus Advanced Security menambahkan perlindungan server Windows dan sesi melalui perlindungan terhadap serangan brute-force, pembatasan geografis, kontrol jam kerja, manajemen izin, perlindungan ransomware, peringatan, dan catatan peristiwa keamanan.

Kontrol ini dapat mengurangi paparan di sekitar host aplikasi, sehingga melengkapi identitas, otorisasi, dan perlindungan runtime yang diperlukan untuk agen AI.

Bersama-sama, kemampuan TSplus yang relevan mendukung prinsip praktis: mempertahankan akses terkontrol ke aplikasi bisnis dan melindungi lingkungan Windows di belakangnya, sambil memberikan keleluasaan kepada admin untuk memperkenalkan kontrol keamanan dan orkestrasi khusus AI di mana beban kerja baru memerlukannya.

Kesimpulan

Keamanan agen AI dimulai dengan perbedaan sederhana: memiliki izin untuk mengakses aplikasi tidak berarti memiliki wewenang untuk melakukan setiap tindakan di dalamnya, jika ada.

Bagi sysadmin dan MSP, membuat AI dapat dikelola berarti menggabungkan agen AI yang diidentifikasi dengan jelas, tugas yang terfokus sempit, izin yang dapat ditegakkan, lingkungan eksekusi yang dilindungi, dan jejak audit yang dapat diandalkan. Langkah-langkah tersebut memungkinkan organisasi untuk mengeksplorasi otomatisasi AI tanpa memperluas permukaan serangan mereka secara tidak perlu.

Pertanyaan yang Sering Diajukan

Apa itu identitas non-manusia dalam keamanan agen AI?

Identitas non-manusia mengidentifikasi perangkat lunak, beban kerja otomatis, atau agen AI daripada seseorang. Ini memungkinkan admin untuk mengautentikasi beban kerja, menetapkan izin, dan melacak aktivitasnya. Identitas agen yang didedikasikan dapat meningkatkan akuntabilitas dibandingkan dengan akun manusia yang dibagikan.

Bagaimana identitas agen AI berbeda dari akun layanan?

Akun layanan tradisional umumnya mendukung aplikasi yang telah ditentukan dan proses otomatis. Identitas agen AI mungkin memerlukan kontrol siklus hidup, delegasi, dan otorisasi tambahan karena agen dapat memilih tindakan secara mandiri. Mekanisme identitas yang tersedia tergantung pada platform dan lingkungan aplikasi.

Bisakah agen AI mengakses aplikasi Windows lama dengan aman?

Ya, asalkan teknologi eksekusi yang sesuai dan kontrol akses tersedia. Organisasi harus membatasi akun Windows, izin aplikasi, dan sesi jarak jauh. Menerbitkan aplikasi individu dapat mengurangi paparan, tetapi tidak menggantikan keamanan sistem operasi atau otorisasi tingkat aplikasi.

Kontrol keamanan apa yang diperlukan ketika agen AI memecahkan masalah perangkat jarak jauh?

Agen pemecahan masalah jarak jauh memerlukan izin eksekusi terbatas, otorisasi untuk tindakan sensitif, pencatatan, dan kondisi penghentian yang dapat diandalkan. Panduan pendamping kami tentang agen AI dalam dukungan TI menjelaskan cara mengawasi remediasi otomatis, memverifikasi hasil, dan meningkatkan intervensi yang tidak berhasil.

Bagaimana cara administrator TI mencabut akses agen AI?

Administrator harus menonaktifkan identitas agen, mencabut token dan kredensial yang berlaku, menghentikan sesi aktif, dan menghentikan proses atau tugas terjadwal yang terkait. Mereka kemudian harus memverifikasi bahwa akses telah berakhir dan menyelidiki aktivitas yang tidak sah.