Meddig dolgozhat önállóan egy AI agent? Az emberi jóváhagyás szerepe a vállalati folyamatokban

Az AI agentek egyik legnagyobb előnye, hogy nemcsak információkat dolgoznak fel, hanem meghatározott feladatokat önállóan is végrehajthatnak. Jelentősen csökkenthetik a mindennapi munkával járó adminisztrációt: adatokat gyűjthetnek, dokumentumokat elemezhetnek, vállalati rendszerekből kérhetnek le információkat, döntéseket készíthetnek elő, sőt, megfelelő jogosultságok mellett műveleteket is végrehajthatnak. Ez azonban nem jelenti azt, hogy minden feladatot emberi felügyelet nélkül kellene elvégezniük. Egy vállalati AI-megoldás kialakításakor ezért az egyik legfontosabb kérdés, hogy mely folyamatlépésekben működhet önállóan az AI agent, és hol van szükség emberi jóváhagyásra.

Nem az önállóság mértéke a cél, hanem a megfelelő kontroll

Egy AI agent bevezetésekor könnyű abból kiindulni, hogy minél több feladatot tud önállóan elvégezni, annál hatékonyabb lesz a rendszer. Vállalati környezetben azonban nem feltétlenül a maximális automatizálás jelenti az optimális működést. Vannak olyan tevékenységek, amelyek alacsony kockázat mellett átadhatók egy agentnek. Ilyen lehet például dokumentumok keresése, információk összegyűjtése, adatok rendszerezése, riportok előkészítése vagy egy vállalati szabályzat megfelelő részének megkeresése.

Más feladatok viszont már pénzügyi, jogi, ügyfélkapcsolati vagy üzleti következményekkel járhatnak. Egy szerződés jóváhagyása, egy nagy értékű megrendelés véglegesítése vagy egy ügyfélnek kiküldött, üzleti kötelezettséget érintő hivatalos válasz esetében indokolt lehet, hogy az AI csak előkészítse a következő lépést, a végrehajtáshoz pedig emberi jóváhagyást kérjen.

A DocuART vállalati AI-tudásplatform az információk gyors elérése mellett az ismétlődő feladatok elvégzésében is támogatja a munkatársakat. Az agentic működés lehetővé teszi az adatok összegyűjtését, feldolgozását és a vállalati folyamatokhoz kapcsolódó műveletek végrehajtását. Az önálló működés határait ugyanakkor az adott feladathoz rendelt jogosultságokhoz és jóváhagyási szabályokhoz kell igazítani.

A jogosultságkezelés segítségével meghatározható, hogy az AI agent milyen adatokhoz és rendszerekhez férhet hozzá, illetve milyen műveleteket végezhet el. Ettől elkülönülnek az emberi jóváhagyási pontok, amelyek azt szabályozzák, hogy egy adott művelet milyen feltételek mellett hajtható végre. Így a rendszer nemcsak az agent hozzáféréseit, hanem önálló működésének határait is szabályozhatja.

Az AI agent önállóságának három szintje

A gyakorlatban érdemes túllépni azon a megközelítésen, hogy egy feladat vagy teljesen automatizált, vagy kizárólag ember által végezhető. A kettő között több működési szint is kialakítható, attól függően, hogy az AI milyen műveleteket hajthat végre, és mikor szükséges emberi beavatkozás.

Az első szinten az AI agent elsősorban információt gyűjt és javaslatokat készít. Megkeresi a releváns dokumentumokat, összesíti az adatokat vagy előkészít egy döntést, de nem végez olyan műveletet, amely megváltoztatná a kapcsolódó vállalati rendszerek állapotát.

A második szinten már egy folyamat végrehajtásában is részt vehet, de bizonyos lépéseknél emberi jóváhagyásra van szüksége. Például összeállíthat és tervezetként rögzíthet egy beszerzési igényt, amelyet csak a felelős munkatárs jóváhagyása után továbbíthat. Így az adminisztratív előkészítést az AI végzi, a végleges döntés azonban az embernél marad.

A harmadik szinten az agent meghatározott feltételek mellett önállóan is végrehajthat műveleteket. Ilyen lehet például egy alacsony kockázatú belső nyilvántartás frissítése, egy előre meghatározott értesítés elküldése vagy egy rutinfeladat elindítása. Ehhez azonban pontosan meghatározott jogosultságokra, ellenőrizhető működésre és megfelelő korlátozásokra van szükség.

Az egyes szintek közötti különbség jól érzékelteti az AI asszisztens és az AI agent közötti eltérést is. Míg egy asszisztens jellemzően a felhasználó munkáját támogatja, egy agent több lépésből álló feladatokat is képes végrehajtani, akár különböző vállalati rendszerek bevonásával.

Hol érdemes emberi jóváhagyási pontot beépíteni?

Az emberi kontroll helyét elsősorban nem technológiai, hanem üzleti és kockázati szempontok alapján érdemes meghatározni.

Emberi jóváhagyásra lehet szükség például akkor, ha egy művelet:

• jelentős pénzügyi következménnyel jár,
• szerződéses vagy jogi kötelezettséget hoz létre,
• külső ügyfélnek vagy partnernek szóló, üzleti következménnyel járó kommunikációt érint,
• érzékeny vállalati vagy személyes adatok felhasználásával jár,
• nehezen vagy egyáltalán nem visszafordítható,
• szokatlan vagy a megszokottól jelentősen eltérő helyzethez kapcsolódik.

Ezzel szemben egy alacsony kockázatú, könnyen visszafordítható és jól szabályozható művelet esetében nagyobb önállóság adható az AI agentnek. Természetesen az érzékeny adatokkal végzett műveletek sem minden esetben igényelnek külön emberi jóváhagyást, ha azok megfelelő jogosultságokkal, adatvédelmi szabályokkal és biztonsági kontrollokkal kezelhetők.

A cél tehát nem az, hogy minden egyes lépéshez emberi megerősítés tartozzon. Ha túl sok jóváhagyási pont kerül a folyamatba, az könnyen csökkentheti azt a gyorsasági előnyt, amely miatt az AI agentet bevezették.

A kockázat alapján is változhat az önállóság

Az emberi jóváhagyás szükségessége nemcsak a feladat típusától, hanem az adott művelet körülményeitől is függhet. Ugyanaz az AI agent ezért egy folyamat egyes eseteiben önállóan dolgozhat, más helyzetekben viszont jóváhagyást kell kérnie.

Vegyünk például egy beszerzési folyamatot. Egy agent önállóan összegyűjtheti a korábbi megrendeléseket, ellenőrizheti a beszállítói adatokat és előkészítheti a beszerzési igényt. Egy kisebb értékű, jóváhagyott beszállítóhoz kapcsolódó, a vállalati szabályzatnak és a rendelkezésre álló költségkeretnek megfelelő beszerzés akár automatikusan is továbbhaladhat.

Ha azonban az összeg meghalad egy meghatározott értékhatárt, új beszállító jelenik meg, vagy a feltételek eltérnek a megszokottól, a rendszer emberi jóváhagyást kérhet. Így ugyanaz az AI agent bizonyos helyzetekben önállóan hajt végre műveleteket, más esetekben pedig csak döntés-előkészítő szerepet kap.

Ez a megközelítés különösen jól alkalmazható olyan vállalati környezetben, ahol a folyamatok jelentős része rutinszerű, de időnként olyan kivételek is előfordulnak, amelyek szakértői mérlegelést igényelnek.

Nemcsak azt kell szabályozni, mit tehet az AI, hanem azt is, milyen információ alapján

Az önálló működés biztonsága szorosan összefügg azzal is, hogy az AI milyen adatokhoz és dokumentumokhoz fér hozzá. Egy vállalati AI agent esetében ugyanazokat az alapvető hozzáférés-kezelési és adatvédelmi elveket kell érvényesíteni, mint más informatikai rendszereknél. Az agent például nem férhet hozzá automatikusan minden vállalati információhoz pusztán azért, mert technikailag képes lenne feldolgozni azt.

Fontos az is, hogy a felhasználó vagy az ellenőrzést végző munkatárs lássa, milyen források alapján készült egy válasz vagy javaslat. Ez különösen azért lényeges, mert az AI-hallucináció miatt előfordulhat, hogy a rendszer valósnak tűnő, de pontatlan vagy nem megfelelően alátámasztott információt ad.

A DocuART ebben azzal nyújt segítséget, hogy a válaszokat a vállalat saját, a rendszer számára elérhetővé tett tudásforrásaira építi, és megjeleníti a felhasznált dokumentumokra és adatokra mutató hivatkozásokat. Ez lehetővé teszi, hogy a munkatársak ellenőrizzék a válaszok alapjául szolgáló információkat, és megalapozottabban használják fel azokat a döntés-előkészítés során.

A források láthatósága ugyanakkor önmagában nem garantálja a válasz helyességét. Előfordulhat, hogy egy dokumentum elavult, hiányos vagy a rendszer nem megfelelően értelmezi a tartalmát. Fontos üzleti döntések előtt ezért továbbra is szükség lehet az információk szakmai ellenőrzésére.

A jóváhagyási folyamatnak is egyszerűnek kell lennie

Az emberi kontroll önmagában még nem tesz jól működővé egy folyamatot. Ha minden jóváhagyáshoz hosszú dokumentációt kell átnézni, az könnyen új szűk keresztmetszetet hozhat létre. Az AI agent ezért nemcsak azt jelezheti, hogy jóváhagyásra van szükség, hanem a döntéshez szükséges információkat is előkészítheti.

Egy jóváhagyási felület például röviden megmutathatja:

• milyen műveletet szeretne végrehajtani az agent,
• milyen információk alapján készítette elő a műveletet,
• milyen eltérést vagy kockázatot érzékelt,
• milyen következménye lehet a jóváhagyásnak,
• milyen alternatív lehetőségek állnak rendelkezésre.

Így az embernek nem kell újra elvégeznie azt az információgyűjtést, amelyet az AI már megtett. A döntés továbbra is nála marad, de annak előkészítése lényegesen gyorsabbá válhat.

A jóváhagyási pontoknak ugyanakkor technikai szinten is érvényesülniük kell. Nem elegendő, ha az AI agent csupán utasítást kap arra, hogy bizonyos műveletek előtt engedélyt kérjen. A végrehajtást kezelő rendszernek biztosítania kell, hogy a jóváhagyáshoz kötött művelet valóban csak az arra jogosult munkatárs engedélye után történhessen meg.

Emellett fontos a jóváhagyások és a végrehajtott műveletek naplózása is, hogy utólag visszakövethető legyen, ki, mikor és milyen műveletet engedélyezett. Ez nemcsak a biztonságot növeli, hanem a vállalati folyamatok ellenőrizhetőségét is támogatja.

Az önállóságot fokozatosan is lehet növelni

Egy AI agentnek nem szükséges már a bevezetéskor széles körű végrehajtási jogosultságot adni. Egy új folyamatban célszerű lehet kezdetben úgy használni, hogy minden fontosabb művelethez emberi jóváhagyás szükséges. Így a vállalat valós működési körülmények között, ellenőrzött keretek között tapasztalhatja meg, milyen javaslatokat készít a rendszer, hogyan kezeli a kivételeket, és mely területeken működik megbízhatóan.

A tapasztalatok alapján később bizonyos jóváhagyási pontok elhagyhatók, értékhatárok vezethetők be, vagy egyes rutinfeladatok önállóan végrehajthatóvá tehetők. A változtatásokat azonban érdemes a rendszer működéséről gyűjtött tapasztalatokra, a hibák elemzésére és a kockázatok rendszeres felülvizsgálatára alapozni.

Ez rugalmasabb megközelítés, mint már a bevezetés előtt véglegesen eldönteni, mely feladatokat végezheti automatikusan az AI. A fokozatos bevezetés során az önállóság mértéke a vállalat igényeihez és a rendszer bizonyított működéséhez igazítható.

A vállalati AI jövője nem feltétlenül a teljes autonómia

Az AI agentek fejlődésével egyre több vállalati feladat válhat önállóan végrehajthatóvá. Ezzel párhuzamosan azonban az is egyre fontosabbá válik, hogy a szervezetek tudatosan alakítsák ki az önálló működés kereteit. A jól működő vállalati AI nem attól lesz értékes, hogy minden feladatot emberi beavatkozás nélkül végez el, hanem attól, hogy megfelelő helyzetekben képes átvenni a végrehajtást, miközben a fontos döntések feletti kontroll megmarad.

Hosszabb távon ez a szemlélet a vállalati folyamatok kialakítását is átalakíthatja. Az emberi jóváhagyás így nem egy automatizált folyamat szükségtelen megszakítását jelenti, hanem annak tudatosan megtervezett részét. A vállalatok számára ezért nem pusztán az AI agentek képességei, hanem az önállóság és az emberi kontroll közötti megfelelő egyensúly megtalálása válhat meghatározóvá.