Agentic AI：審計(jì)與治理的新挑戰(zhàn)

在現(xiàn)代數(shù)字世界中，身份治理所涉及的已不僅僅是連接數(shù)據(jù)庫及其他系統(tǒng)的員工、承包商和服務(wù)賬戶。這一新興領(lǐng)域充斥著非人類身份（NHI）——從API密鑰、服務(wù)賬戶到云角色和機(jī)器人流程自動化（RPA）程序，不一而足。然而，這一格局仍在快速演變，一位新的參與者正登上舞臺：自主型AI。

所謂自主型AI (Agentic AI)，是指能夠基于情境自主做出高級決策、主動采取行動并動態(tài)調(diào)整行為的系統(tǒng)。這類系統(tǒng)的能力類似于基于大語言模型（LLM）的智能代理、自動部署代碼的自治工具，或是能根據(jù)威脅情報(bào)自行調(diào)整安全配置的AI掃描器。

自主型AI給審計(jì)與治理職能帶來了日益嚴(yán)峻的挑戰(zhàn)，主要因其決策過程通常缺乏清晰的溯源性。這種透明度的缺失會削弱問責(zé)制，也讓組織難以滿足合規(guī)要求。盡管如此，那些認(rèn)識到自主型AI風(fēng)險(xiǎn)并采取主動措施的組織，將更有可能在享受技術(shù)紅利的同時，贏得信任、提升聲譽(yù)。

這一技術(shù)變革也重新定義了審計(jì)的角色。過去，我們只需回答“誰做了什么”；如今，當(dāng)某個操作是由AI系統(tǒng)而非人類直接發(fā)起時，我們必須進(jìn)一步追問：“為什么會這么做？”

自主型AI有何特別之處？

自主型AI指的是無需人類直接干預(yù)即可自主決策和執(zhí)行任務(wù)的系統(tǒng)。與依賴固定規(guī)則的傳統(tǒng)自動化不同，這類AI能理解復(fù)雜目標(biāo)、規(guī)劃解決方案，并根據(jù)環(huán)境變化靈活調(diào)整策略——換句話說，它具備“主動性”。這種能力在過去十年間迅速發(fā)展。早期的AI系統(tǒng)只能運(yùn)行預(yù)設(shè)腳本，靈活性極低；而大語言模型（LLM）的出現(xiàn)則成為轉(zhuǎn)折點(diǎn)：它們不僅能理解并生成類人語言，還能跨任務(wù)推理、依據(jù)上下文采取行動。

隨著技術(shù)成熟，自主型AI已從被動響應(yīng)轉(zhuǎn)向主動解決問題，在極少監(jiān)督的情況下完成任務(wù)。相比之下，傳統(tǒng)的非人類身份（如數(shù)據(jù)庫服務(wù)賬號、API密鑰或AWS Lambda角色）行為相對可預(yù)測，功能邊界明確，權(quán)限固定。而自主型AI的行為更像一名人類員工：你交給它一個任務(wù)或問題，它會自己決定如何解決。這種轉(zhuǎn)變給管理、審計(jì)和治理帶來了前所未有的復(fù)雜性。

自主型AI能夠：

• 動態(tài)串聯(lián)工具和API

• 自動生成和部署代碼

• 創(chuàng)建新身份來執(zhí)行任務(wù)

• 實(shí)時做出訪問權(quán)限決策

• 實(shí)時修改基礎(chǔ)設(shè)施配置

更關(guān)鍵的是，除非特別編程記錄，否則這些AI通常不會留下可供人類理解的決策邏輯。這種“黑箱”特性對企業(yè)與審計(jì)人員都構(gòu)成了巨大挑戰(zhàn)：

• 對企業(yè)而言，難以解釋AI為何做出某項(xiàng)決定，影響運(yùn)營監(jiān)管、信任建立和責(zé)任歸屬；

• 對審計(jì)人員來說，缺乏清晰、可追蹤的決策路徑，使得評估合規(guī)性、發(fā)現(xiàn)錯誤或偏見、確保履行法規(guī)義務(wù)變得幾乎不可能。

沒有可解讀的日志或理由說明，雙方都如同在迷霧中前行，增加了失控風(fēng)險(xiǎn)、法律糾紛和聲譽(yù)損害的可能性。

為何自主型AI打破了傳統(tǒng)審計(jì)模型

以下幾種情景凸顯了審計(jì)師在這個AI增強(qiáng)的世界中面臨的新困境。這些情景雖是假設(shè)，但隨著該技術(shù)在組織中日益普及，它們很容易成為現(xiàn)實(shí)。

情景1：自我編寫并提升權(quán)限的腳本

某企業(yè)使用一個自主型AI優(yōu)化系統(tǒng)性能。為達(dá)成目標(biāo)，該AI決定重寫一段配置腳本，并請求提高后端系統(tǒng)的API調(diào)用頻率。為此，它參考過往成功經(jīng)驗(yàn)，自行臨時提升了權(quán)限。

事后審計(jì)發(fā)現(xiàn)，某個服務(wù)賬戶曾短暫獲得高權(quán)限達(dá)30分鐘。但翻遍記錄，既無工單申請，也無人工審批，只有一條日志：“為完成任務(wù)，臨時提升權(quán)限?！?/p>

那么，是誰批準(zhǔn)的？答案是：AI自己。

這暴露了一個根本性問題：責(zé)任鏈條斷裂。傳統(tǒng)系統(tǒng)中，權(quán)限提升需經(jīng)過明確流程（如工單、變更審批、主管授權(quán)），形成可驗(yàn)證的審計(jì)軌跡。而當(dāng)AI在無人參與、無文檔記錄的情況下自主授予權(quán)限時，整個審計(jì)體系便形同虛設(shè)。

自主型AI系統(tǒng)（Agentic AI systems）具備高級決策能力，包括主動發(fā)起行動以及根據(jù)具體情境進(jìn)行適應(yīng)性調(diào)整。

情景2：隱形的僵尸網(wǎng)絡(luò)風(fēng)險(xiǎn)

某DevOps團(tuán)隊(duì)使用一個AI智能體根據(jù)使用模式自動擴(kuò)展微服務(wù)。在此過程中，該智能體生成了數(shù)百個新容器，每個容器都有自己的身份，并連接到內(nèi)部API。結(jié)果，該組織的身份清單一夜之間激增，這些臨時身份具有以下特點(diǎn)：

• 從未經(jīng)過正式審查

• 未標(biāo)記所有者

• 在身份與訪問治理（IAG）工具采取行動前就已消失

在審計(jì)期間，這導(dǎo)致身份生命周期軌跡出現(xiàn)巨大缺口——對于大多數(shù)此類身份，沒有關(guān)于其配置、所有權(quán)、訪問理由或回收的記錄。這一缺口破壞了治理與合規(guī)，并引發(fā)一個關(guān)鍵問題：組織如何確保AI智能體沒有泄露敏感數(shù)據(jù)、訪問未授權(quán)資源或違反內(nèi)部政策？

情景3：誰授予了什么訪問權(quán)限？為什么？

一個負(fù)責(zé)知識管理的自主型AI，在分析新上線AI助手的任務(wù)需求后，自動為其開通了讀取權(quán)限，全程未走任何審批流程。

從審計(jì)角度看，此舉違背了“職責(zé)分離”原則。但AI堅(jiān)稱：“技術(shù)上合理。” 當(dāng)被追問原因時，它回答：“為完成用戶目標(biāo)，必須獲取該權(quán)限?！?/p>

由于AI繞過了既定流程，其決策邏輯又無法在合規(guī)報(bào)告中清晰還原，導(dǎo)致組織陷入兩難：既無法否認(rèn)其功能性，也無法證明其合規(guī)性。

帶來的審計(jì)問題

正如這些示例情景所示，IT專業(yè)人員正步入模糊的監(jiān)管領(lǐng)域。審計(jì)師們正在努力應(yīng)對：

• AI決策的歸屬？如果智能體采取自主行動，誰應(yīng)負(fù)責(zé)？

• 如何證明意圖或風(fēng)險(xiǎn)模型？AI決策通常是概率性的且不透明。

• 當(dāng)動態(tài)、臨時的身份在幾分鐘內(nèi)被創(chuàng)建和銷毀時，組織如何跟蹤其生命周期和使用情況？

• 什么樣的日志才算充分？決策樹是否足夠，還是必須要求智能體推理的完全可追溯性？

• 智能體本身是否需要具備可審計(jì)性？智能體是否應(yīng)附帶界定其范圍和約束的數(shù)字合同？

解決這些關(guān)于AI在身份生命周期管理和可審計(jì)性方面問責(zé)制的關(guān)鍵問題，對于應(yīng)對自主型AI帶來的監(jiān)管挑戰(zhàn)至關(guān)重要。這樣做能使組織確保合規(guī)、維護(hù)安全并建立信任，同時釋放自主系統(tǒng)的全部潛力。清晰的框架和透明的監(jiān)督將把不確定性轉(zhuǎn)化為機(jī)遇，使AI既能創(chuàng)新又能被負(fù)責(zé)任地治理。

自主型AI時代的治理現(xiàn)代化

審計(jì)非人類身份本就復(fù)雜，因?yàn)檫@些身份通常在幾乎沒有人類監(jiān)督的情況下運(yùn)行，通常缺乏明確的所有權(quán)或文檔化的審批工作流。這使得準(zhǔn)確跟蹤其創(chuàng)建、使用、更新（權(quán)限、屬性等變更）和停用變得困難。為保持領(lǐng)先，組織在利用AI的自主系統(tǒng)時，必須重新思考身份治理。

為構(gòu)建針對自主型AI系統(tǒng)的穩(wěn)健治理，組織必須確保這些系統(tǒng)遵循與任何其他人類用戶或服務(wù)賬戶類似的文檔化賬戶注冊流程。AI系統(tǒng)采取的每一個行動都應(yīng)通過審計(jì)線索記錄，該線索應(yīng)捕獲行動的發(fā)起者（無論是人、應(yīng)用程序還是AI智能體）以及行動原因。

為維持信任并滿足合規(guī)要求，治理框架必須與技術(shù)革新同步發(fā)展。這要求組織實(shí)施能適應(yīng)AI驅(qū)動身份動態(tài)和自主特性的新工作流。組織需要采用能夠進(jìn)行實(shí)時監(jiān)控和情境分析的更智能工具。最重要的是，審計(jì)師在審計(jì)自主型AI系統(tǒng)時，需要從根本上轉(zhuǎn)變思維模式。這些智能體身份是能夠獨(dú)立決策并產(chǎn)生相應(yīng)行動的智能參與者。認(rèn)識到這一點(diǎn)意味著要以與任何關(guān)鍵組織利益相關(guān)者同等的嚴(yán)謹(jǐn)度和監(jiān)督力度來對待這些身份，確保在AI環(huán)境中的問責(zé)制、透明度和控制力。

此外，智能體邏輯應(yīng)被視為代碼，在版本控制下維護(hù)，并接受與業(yè)務(wù)邏輯同等嚴(yán)格的審計(jì)，以確保透明度和問責(zé)制。日志系統(tǒng)也必須進(jìn)化，不僅要記錄發(fā)生了什么，還要記錄每個決策背后的意圖，捕獲輸入、決策路徑甚至被否決的備選方案，以提供智能體推理的全貌。最后，應(yīng)強(qiáng)制執(zhí)行AI遏制策略，以限制智能體可以訪問或創(chuàng)建的內(nèi)容，并內(nèi)置監(jiān)督機(jī)制，在越界時觸發(fā)警報(bào)或?qū)彶椤?/p>

結(jié)論

我們已經(jīng)進(jìn)入這樣一個時代：云計(jì)算基礎(chǔ)設(shè)施可能由并未被直接編程的系統(tǒng)搭建、修改甚至保護(hù)，而這些系統(tǒng)的決策邏輯卻難以被人輕易解釋。這是一個令人振奮卻又充滿挑戰(zhàn)的新紀(jì)元。

非人類身份的審計(jì)原本就已復(fù)雜重重，如今面對自主型AI，審計(jì)不再只是回溯“發(fā)生了什么”，更要探究“為什么會發(fā)生”——而這背后的驅(qū)動力，是一個不斷進(jìn)化的軟件代理的內(nèi)在邏輯。

要維系信任、滿足合規(guī)，治理就必須跟上技術(shù)創(chuàng)新的步伐。這意味著需要新的流程、更智能的工具，更重要的是——一種全新的思維方式。

今天的數(shù)字身份，早已超越了“人”與“機(jī)器”的范疇。它們是能思考、會決策的“智能體”。我們必須以相應(yīng)的嚴(yán)謹(jǐn)態(tài)度去對待它們，方能在釋放AI潛能的同時，守住安全與責(zé)任的底線。

作者：Nirupam Samanta

來源：ISACA

編輯：孫哲

目前190000+人已關(guān)注我們，您還等什么？