AI Agent Security: Kako bi IT trebao kontrolirati ne-ljudski pristup poslovnim aplikacijama?

Sigurnost AI agenta postaje kritična kada autonomni softver može pristupiti poslovnim aplikacijama, preuzeti osjetljive podatke i izvršavati radnje bez kontinuirane ljudske intervencije. Za IT timove, izazov je utvrditi koju identitet, pristup i opseg im dati kako bi se kombinirala učinkovitost i zaštita.

Kako organizacije uvode AI agente u svakodnevne radne procese, sistemski administratori i menadžeri sigurnosti moraju proširiti politike pristupa izvan ljudskih korisnika i tradicionalnih servisnih računa. Ovaj vodič objašnjava kako upravljati ne-ljudskim identitetima, primijeniti minimalna prava i zaštititi moderne i naslijeđene aplikacije. Pružam praktične mjere za sistemske administratore, IT timove i MSP-ove koji rade na usvajanju AI-a uz minimalno izlaganje.

Zašto pristup AI agenta stvara nove sigurnosne probleme?

Tradicionalno upravljanje pristupom općenito razlikuje ljudske korisnike od aplikacija i usluga. AI agenti kompliciraju ovaj model jer mogu interpretirati informacije, odabrati alate i pokrenuti operacije na temelju promjenjivih okolnosti.

Automatizacija, ali ne onako kako je poznajemo:

Za razliku od konvencionalne automatizacije, gdje su akcije obično unaprijed definirane, AI agent može odrediti koje korake poduzeti dok radi prema širem cilju. Varijable koje to uvodi imaju dug doseg, budući da, bilo greškom, nedostatkom referenci ili zlonamjernim uputama, AI može lako prekoračiti dozvole uzrokujući nepoželjne rezultate. Za IT timove, početna akcija je definirati svrhu AI agenta i provedive granice prije nego što se odobri pristup proizvodnji.

Od čitanja poslovnih podataka do djelovanja na njima:

Razmotrite AI agenta raspoređenog za preuzimanje računa, usporedbu informacija o plaćanju i izradu izvještaja o iznimkama. Koja ograničenja i zaštitne mjere mogu se postaviti kako bi se spriječila netočna radnja unutar računovodstvene aplikacije?

Autentifikacija nije jednaka autorizaciji:

Dok autentifikacija utvrđuje koja identitet pokušava pristupiti resursu, autorizacija određuje koje operacije taj identitet može izvršiti. Za AI agente, ove odluke moraju ostati odvojene.

Uspješno autentificirani agent trebao bi primiti samo ovlaštenja relevantna za njegov zadatak, potrebne resurse i ograničena potencijalnim posljedicama akcije.

U svom 2026 rad na softveru i identitetu AI agenta NIST ističe potrebu za rješavanjem identiteta, autoriteta, revizije i odgovornosti za AI agente.

Sigurnosni cilj nije samo odlučiti koje aplikacije agent može otvoriti. IT treba kontrolirati što agent može raditi nakon što je pristup odobren.

Koji identitet bi trebao koristiti AI agent?

AI agenti trebaju prepoznatljive, upravljive identitete kako bi administratori mogli dodijeliti dozvole, pratiti aktivnost i opozvati pristup kada je to potrebno.

Posvećene identitete i vjerodajnice opterećenja

Gdje je podržano, stvorite radno opterećenje ili identitet agenta, vezan uz imenovanog vlasnika i specifičnu funkciju, kako biste pratili odgovornost i zaključali privilegije za potrebni zadatak.

Osim toga, pomaže razlikovati automatiziranu aktivnost od ljudske aktivnosti, primijeniti posvećene sigurnosne politike i onemogućiti agenta bez utjecaja na pristup zaposlenika, kao što je u Microsoft Entra Agent ID-u. Cilj je održati AI agente usko definirane, dobro dokumentirane i neovisno provjerljive.

Delegirani pristup naspram autonomnog pristupa

AI agenti mogu raditi pod različitim modelima autorizacije.

Delegirani pristup omogućuje agentu da djeluje u ime ljudskog korisnika, unutar strogih dozvola izričito mu delegiranih, potencijalno samo na određeno vrijeme.

Autonomni pristup omogućuje agentu da djeluje kroz svoj identitet i dodijeljene dozvole, bez potrebe za aktivnom ljudskom sesijom. Važno je da se politike pristupa i kontrole životnog ciklusa postave za autonomne AI agente, kao i vlasništvo.

Napomena o MFA

Zajednički računi otežavaju utvrđivanje odakle je akcija potekla: od zaposlenika, AI agenta ili drugog automatiziranog procesa. AI agent ne bi trebao ovisiti o vjerodajnicama zaposlenika, posebno ne za rutinsku automatizaciju.

Dok je višefaktorska autentifikacija (MFA) vrijedna za ljudski pristup, autonomne potrebe podržavaju mehanizme identiteta radnog opterećenja. Neki primjeri, prema aplikaciji i infrastrukturi identiteta:

• upravljane identitete,
• federirani akreditivi,
• certifikati
• ili kratkotrajni tokeni.

Kako bi IT trebao ograničiti pristup AI agentima?

Ovdje je minimalna privilegija bitna, kako bi se omogućio pristup samo resursima i operacijama potrebnim za odobrenu svrhu.

Najmanje privilegije u aplikacijama, alatima i podacima

• Dozvole alata: Koje API-je, skripte, integracije i alate za izvršavanje može agent pozvati?
• Dozvole aplikacije : Koje poslovne aplikacije i funkcije može pristupiti?
• Dozvole podataka: Koje zapise, mape, datoteke ili baze podataka može čitati? Može li ih mijenjati?
• Sustavne dozvole: Može li izvršavati naredbe, pristupiti operativnom sustavu ili obavljati administrativne operacije?

Pristup AI agentu treba se razmatrati na ovim razinama, a nijedna dozvola ne bi trebala biti proširena samo na temelju zahtjeva. Ove razine također bi trebale jačati jedna drugu.

Dozvole aplikacija također moraju ostati provedive neovisno o postavkama AI modela. Uputa koja govori agentu da ne mijenja podatke o plaćanju nije ekvivalentna tehničkoj kontroli koja sprječava izmjenu.

Za organizacije koje jačaju postojeću infrastrukturu pristupa, naš Načela Zero Trust za daljinski pristup SMB-u proširiti provjeru identiteta, minimalna privilegija i ograničavanje izloženosti.

Pristup s vremenskim ograničenjem i osjetljive operacije

Dozvole bi trebale odražavati ne samo ono što agent treba, već i kada i zašto je pristup potreban. Ograničena autorizacija može smanjiti izloženost između odobrenih zadataka, kao i dodatne kontrole. Možda ćete provoditi određene radnje putem davatelja identiteta, alatnog prolaza, aplikacije ili drugog pouzdanog mehanizma politike umjesto da se oslanjate samo na AI.

Kako se sigurnost AI agenta razlikuje među poslovnim aplikacijama?

Neće svaka aplikacija pružiti iste mehanizme za kontrolu pristupa AI-u. IT timovi trebaju prilagoditi kontrole pristupa svom okruženju i zahtjevima.

SaaS aplikacije i API-ji

Moderne SaaS aplikacije često pružaju API-je koji podržavaju ograničene pristupne tokene, uloge aplikacija i delegirane dozvole.

Iako mogu učiniti autorizaciju agenata preciznijom, API dozvole i dalje mogu biti previše široke, stoga bi administratori trebali pregledati opseg, ograničiti pristup i redovito uklanjati dozvole.

Aplikacije za poslovanje temeljene na pregledniku

Aplikacije temeljene na pregledniku uvode različite izazove u interakciji s grafičkim sučeljem.

Organizacije trebaju koristiti namjenske račune, strogo ograničiti dostupne aplikacije i provoditi autorizaciju unutar samog poslovnog softvera. Naš članak o siguran pristup pregledniku privatnim aplikacijama objašnjava kako dodjela aplikacija, autentifikacija i kontrole na strani poslužitelja mogu smanjiti nepotrebnu izloženost.

Nasljedne Windows aplikacije i udaljene radne površine

Nasljedne Windows aplikacije predstavljaju poseban izazov jer su njihovi kontrolni mehanizmi obično dizajnirani za ljudske korisnike, a ne za autonomne procese.

Pristup

Ipak, tehnologija pristupa i izvršavanja ostat će odvojena, bez obzira na poslovne uloge, dozvole, Windows račune, grupe direktorija ili širi pristup na razini aplikacije. Vrsta grafičkog pristupa ostaje odluka administratora i naš članak o AI agenti i naslijeđene Windows aplikacije istražuje tehničke i arhitektonske implikacije različitih izvršnih okruženja.

Sigurnost

Zbog sigurnosnih pitanja, pristup i dozvole ne mogu se miješati. Objavljivanje specifične Windows aplikacije znači smanjenje izloženosti cijelog sustava, ali to je samo početak šire strategije kontrole pristupa. Vaš administratorski rad je smanjen:

Mehanizam pristupa	Glavne sigurnosne kontrole	Glavna briga
SaaS API	OAuth opsezi, tokeni, API uloge	Preširoke dozvole, zloupotreba tokena
Aplikacija preglednika	Sesije, uloge aplikacija	Neovlaštene radnje u važećoj sesiji
Objavljena Windows aplikacija	Windows identitet, dodjela aplikacija, dozvole	Pristup izvan predviđene zadaće
Puni udaljeni desktop	prava OS-a, ograničenja sesije, učvršćivanje	Šira izloženost sustava i lateralno kretanje

Koje rizike u kibernetičkoj sigurnosti treba dodatno kontrolirati?

AI agenti mogu naići na zlonamjerne upute u podršci, web stranicama, dokumentima ili odgovorima alata. Ovo ubacivanje u poziv može preusmjeriti agenta s njegovog legitimnog zadatka, čak i kada se napadač ne može izravno prijaviti. OWASP Top 10 za Agentne Aplikacije 2026 izlaže relevantne prijetnje.

Ostali rizici uključuju izložene vjerodajnice u pozivima ili zapisima, neovlaštenu upotrebu alata, eskalaciju privilegija i osjetljive podatke poslane na nepredviđene odredišne lokacije. Višekorisnički radni tokovi dodaju još jednu zabrinutost: delegirani zadaci ne smiju automatski prenositi neograničen pristup od jednog agenta do drugog.

Kako biste izbjegli eksfiltraciju podataka i slične probleme, tretirajte vanjski sadržaj kao nepouzdan, štitite tajne putem podržanih usluga vjerodajnica, ograničite odlazne veze i provodite dozvole neovisno o AI modelu. Osjetljive operacije trebaju kontrole na razini aplikacije ili alata, a ne samo interpretabilne upute koje govore agentu da se ponaša sigurno.

Kako može IT nadzirati, opozvati i provjeravati pristup AI agentu?

Upravljanje pristupom je nepotpuno ako administratori ne mogu odrediti što je agent učinio ili ga zaustaviti kada njegovo ponašanje postane neočekivano.

Praćenje identiteta, odluka i radnji

Korisna evidencija revizije: identitet agenta + odgovorna osoba + zatražena operacija + odobrenje + poziv alata + rezultantna akcija + ishod.

Ovisno o uključenim alatima, zapisi će se razlikovati. Nijedan pojedinačni izvor ne govori cijelu priču, stoga je kombinacija događaja autentifikacije, izdavanja pristupnih tokena, API poziva, aktivnosti aplikacije, odobrenja, izmjena datoteka i aktivnosti sesije potrebna kao dokaz. Na primjer, kombinirajte dnevnik identiteta s snimanjem sesije, korelirajući zapise gdje je to moguće.

Osim toga, zaštitite osjetljive informacije gdje god je to moguće. Na primjer, ako ste MSP, odvojite evidencije revizije po kupcu kako biste sačuvali njihove podatke.

Oduzimanje pristupa i odgovor na incidente

Predefinirajte postupak gašenja po implementaciji AI agenta, prije proizvodnje.

Ovisno o okruženju, to može zahtijevati onemogućavanje identiteta AI agenta, opoziv vjerodajnica, rotaciju tajni, prekid aktivnih sesija i zaustavljanje zakazanih poslova. Kada završite, procijenite prethodno izdane tokene ili uspostavljene sesije: opoziv jedne vjerodajnice nije uvijek dovoljan za zaustavljanje već aktivnog procesa.

Možete uključiti sljedeće u praktičnu proceduru odgovora na "neprihvatljivo ponašanje":

• sadrži pristup,
• zadrži zapise,
• istražiti promjene,
• zamijeniti vjerodajnicu
• i potvrditi da je neovlašteni incident završio.

Što je praktična sigurnosna lista za AI agente za IT timove?

Zašto ne pristupiti sigurnosti AI agenta postupno? Započnite s uskim, po mogućstvu samo za čitanje radnim tokom, a zatim proširite tek nakon što potvrdite kontrole. Prije nego što agentu date pristup proizvodnji:

1. Identificirajte vlasništvo. Dokumentirati njegovu svrhu, operatera/vlasnika, okruženje izvršavanja, alate i protoke podataka.
2. Dodijelite jedinstveni identitet. Izbjegavajte zajedničke ljudske vjerodajnice. Uspostavite odvojenu odgovornost.
3. Mapirajte i ograničite dopuštene resurse. Odredite aplikacije, zapise, podatke, sustave, potrebne API dozvole, vremenske okvire.
4. Ograničite osjetljive radnje. Definirajte zahtjeve za odobrenje i zabranite promjene velikog utjecaja i nepotrebne privilegije.
5. Zaštitite vjerodajnice. Koristite podržanu autentifikaciju radnog opterećenja i upravljane tajne.
6. Provjerite izvršno okruženje. Pregled izolacije sesije, mrežnog pristupa i relevantnih Windows sigurnosnih postavki.
7. Omogućite dokaze i oporavak: zadržavati evidenciju o autentifikaciji, izvršenju alata, aktivnosti aplikacije i značajnim promjenama.
8. Scenariji neuspjeha testa: potvrditi da se pristup može opozvati, sesije prekinuti i nepredviđene aktivnosti istražiti.

Na primjer, MSP bi mogao pilotirati agenta za čitanje odabranih ERP računa i pripremu izvještaja, bez davanja dozvole za uređivanje financijskih podataka. Samo dokazana pouzdanost i provedive dozvole trebale bi opravdati širu ovlast.

Kako može TSplus pomoći u osiguravanju pristupa Windows aplikacijama?

Za organizacije koje koriste poslovni softver temeljen na sustavu Windows, temeljna infrastruktura za daljinski pristup također je dio takvog sigurnosnog procesa. TSplus isporuka aplikacija i mogućnosti zaštite poslužitelja pomažu sistemskim administratorima u kontroli pristupa središnje hostanim Windows aplikacijama.

TSplus Remote Access: Dostava aplikacija i dodjela

TSplus Remote Access objavljuje i dodjeljuje Windows aplikacije, čineći ih dostupnima putem udaljenih veza, uključujući pristup putem weba. Pružanje dodijeljene aplikacije umjesto cijelog radnog prostora može pomoći u smanjenju nepotrebne izloženosti sučelja unutar takvih AI radnih tokova, posebno onih koji uključuju postojeći i naslijeđeni poslovni softver.

TSplus Advanced Security: Zaštita Windows poslužitelja i sesija

TSplus Napredna sigurnost dodaje zaštitu Windows poslužitelja i sesija putem zaštite od brute-force napada, geografskih ograničenja, kontrole radnog vremena, upravljanja dozvolama, zaštite od ransomwarea, upozorenja i sigurnosnih dnevnika događaja.

Ove kontrole mogu smanjiti izloženost oko domaćina aplikacije, čime se dopunjuju posvećeni identitet, autorizacija i zaštite tijekom izvođenja potrebne za AI agente.

Zajedno, relevantne TSplus mogućnosti podržavaju praktično načelo: održavanje kontroliranog pristupa poslovnim aplikacijama i zaštita Windows okruženja iza njih, dok se administratorima ostavlja sloboda za uvođenje sigurnosnih kontrola specifičnih za AI i orkestraciju gdje nove radne opterećenja to zahtijevaju.

Zaključak

Sigurnost AI agenta počinje s jednostavnom razlikom: imati dopuštenje za pristup aplikaciji ne znači imati ovlast za izvršavanje svake radnje unutar nje, ako ih ima.

Za sysadmins i MSP-ove, upravljanje AI-jem znači kombiniranje jasno identificiranih AI agenata, usko definiranim zadacima, provedivim dozvolama, zaštićenim okruženjima za izvršavanje i pouzdanim tragovima revizije. Takvi koraci omogućuju organizacijama da istražuju automatizaciju AI-a bez nepotrebnog širenja svoje površine napada.

Često postavljana pitanja

Što je nehumana identitet u sigurnosti AI agenata?

Nehumani identitet identificira softver, automatizirani radni teret ili AI agenta umjesto osobe. Omogućuje administratorima da autentificiraju radni teret, dodijele dozvole i prate njegovu aktivnost. Posvećeni identiteti agenata mogu poboljšati odgovornost u usporedbi s dijeljenim ljudskim računima.

Kako se identitet AI agenta razlikuje od računa usluge?

Tradicionalni računi usluga obično podržavaju unaprijed definirane aplikacije i automatizirane procese. Identiteti AI agenata mogu zahtijevati dodatne kontrole životnog ciklusa, delegacije i autorizacije jer agenti mogu neovisno birati radnje. Dostupni mehanizmi identiteta ovise o platformi i okruženju aplikacije.

Mogu li AI agenti sigurno pristupiti naslijeđenim Windows aplikacijama?

Da, pod uvjetom da su dostupne odgovarajuće tehnologije izvršenja i kontrole pristupa. Organizacije moraju ograničiti Windows račun, dozvole aplikacija i udaljenu sesiju. Objavljivanje pojedinačne aplikacije može smanjiti izloženost, ali ne zamjenjuje sigurnost operativnog sustava ili autorizaciju na razini aplikacije.

Koje sigurnosne kontrole su potrebne kada AI agenti rješavaju probleme s udaljenim uređajima?

Agentima za daljinsko rješavanje problema potrebna su ograničena izvršna dopuštenja, autorizacija za osjetljive radnje, evidentiranje i pouzdani uvjeti za zaustavljanje. Naš prateći vodič o AI agentima u IT podršci objašnjava kako nadzirati automatizirano otklanjanje problema, provjeriti rezultate i eskalirati neuspjele intervencije.

Kako mogu IT administratori opozvati pristup AI agentu?

Administratori bi trebali onemogućiti identitet agenta, opozvati primjenjive tokene i vjerodajnice, prekinuti aktivne sesije i zaustaviti povezane procese ili zakazane zadatke. Zatim bi trebali provjeriti da li je pristup prekinut i istražiti svaku neovlaštenu aktivnost.