江蘇
關鍵詞
AI
據科技媒體 TechPower Up 今天報道，微軟在幾天前宣布 Win11 系統將迎來一次 "agentic"（智能體式）大更新，不過微軟最近在官方發布博文稱，Win11 系統的 AI 智能體功能可能出現 " 幻覺 " 現象。
據報道，用戶在安裝 Windows 11 Build 26220.7262 后，可以在 " 設置 --> 系統 -->AI Components" 中看到一個新開關 " 實驗性智能體功能 "，啟用后系統會彈出一個警告窗口，提醒用戶相關功能仍處于實驗階段，可能會對電腦產生影響。
值得注意的是，目前黑客已經基于自主式智能體（autonomous agents）研發新型攻擊方式，其中最為人所知的便是間接提示注入，不懷好意的人會將惡意指令隱藏在普通文檔或網頁元素中，讓智能體遵循這些隱藏指令而非原本的任務，最終導致電腦被裝上惡意軟件，或是泄露支付信息。
不過微軟表示，Windows 11 的智能體將被運行在一個專屬工作區內，每個智能體都有一個限定范圍、可審計的賬戶，并且所有操作記錄都會被記錄以供審查，具體工作原理類似沙盒，但智能體被設計可持續存在，并且能跨對話執行文件操作，這無疑擴大了潛在攻擊面。
默認情況下，智能體會被授予 Downloads、Desktop、Documents 等用戶文件夾的讀寫權限，雖然這些文件夾并非系統要害，但仍然有可攻擊的漏洞，微軟還是需要實施更強的安全措施才能避免黑客攻擊。
注：AI 領域的 " 幻覺 " 指的是 AI 大語言模型生成出看起來合理但實際虛假或不準確的信息，這種現象之所以被稱為 " 幻覺 "，是因為模型會不知不覺地輸出與事實不符的內容，產生原因多種多樣，包括訓練數據不足、有偏差或不完整、上下文理解有限、過度擬合等。
安全圈
網羅圈內熱點 專注網絡安全
實時資訊一手掌握！
好看你就分享 有用就點個贊
支持「安全圈」就點個三連吧！
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
