隨著AI智能體技術(shù)加速滲透企業(yè)核心業(yè)務(wù)場(chǎng)景,以O(shè)penClaw為代表的自主執(zhí)行型AI正成為新一輪生產(chǎn)力變革的重要引擎。然而,其強(qiáng)大的系統(tǒng)訪問與任務(wù)執(zhí)行能力也帶來了前所未有的安全風(fēng)險(xiǎn)——權(quán)限越界、記憶污染、惡意誘導(dǎo)、算力濫用等問題日益凸顯。部分企業(yè)在擁抱效率的同時(shí),低估了潛在治理挑戰(zhàn)。
![]()
為此,螞蟻數(shù)科正式推出“蟻天鑒2.0 - 龍蝦衛(wèi)士”AI安全防護(hù)體系,并同步啟動(dòng)“龍蝦AI安全守護(hù)計(jì)劃”,旨在為部署OpenClaw的企業(yè)提供全生命周期、多層次的安全保障。
本次發(fā)布的“claw安全套件1.0”于3月19日正式上線,聚焦三大核心能力:一是“對(duì)抗思想變異”,通過精準(zhǔn)識(shí)別輸入輸出內(nèi)容,攔截違規(guī)信息與惡意誘導(dǎo)傳播源頭,防止模型被“黑化”;二是“凈化skills倉庫”,基于螞蟻數(shù)科CALIR五維模型框架,對(duì)Skills插件進(jìn)行合規(guī)掃描與行為審計(jì),有效識(shí)別并阻斷權(quán)限越界、敏感泄露及異常調(diào)用等風(fēng)險(xiǎn);三是“風(fēng)險(xiǎn)輿情播報(bào)”,通過生成實(shí)時(shí)風(fēng)險(xiǎn)應(yīng)急報(bào)告并主動(dòng)推送,幫助企業(yè)第一時(shí)間掌握安全態(tài)勢(shì),實(shí)現(xiàn)風(fēng)險(xiǎn)的透明化與即時(shí)感知,變被動(dòng)防御為主動(dòng)應(yīng)對(duì)。
為了助力更多企業(yè)低成本完成安全基線建設(shè),螞蟻數(shù)科同步啟動(dòng)“龍蝦AI安全守護(hù)計(jì)劃”。該計(jì)劃將面向首批100家合作企業(yè),提供為期3個(gè)月、總計(jì)20萬次的免費(fèi)龍蝦安全防護(hù)調(diào)用服務(wù),旨在讓客戶快速體驗(yàn)企業(yè)級(jí)的AI安全保障。
在大模型安全技術(shù)方面,螞蟻數(shù)科憑借領(lǐng)先的技術(shù)實(shí)力和解決方案,成功入選IDC《中國大模型安全市場(chǎng)圖譜》。基于真實(shí)場(chǎng)景的攻防經(jīng)驗(yàn),螞蟻數(shù)科的大模型安全技術(shù)在金融合規(guī)、越獄攻擊等復(fù)雜場(chǎng)景中,已達(dá)到SOTA(State Of The Art)效果,具備0-Day泛化修復(fù)風(fēng)險(xiǎn)能力。
螞蟻數(shù)科在AI安全領(lǐng)域的持續(xù)創(chuàng)新,正成為行業(yè)內(nèi)領(lǐng)先的安全實(shí)踐,確保客戶能夠在享受AI智能體帶來的紅利時(shí),依然擁有可控、可追溯的安全保障。“AI智能體不是‘黑箱’,更不能是‘盲盒’。” 螞蟻數(shù)科AI安全團(tuán)隊(duì)表示,“我們希望通過‘龍蝦衛(wèi)士’,讓企業(yè)在享受AI智能體紅利的同時(shí),擁有可解釋、可控制、可追溯的安全基石。”
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.