AI時代，亞馬遜云科技何以引領智能云安全？

鑒于生成式AI的火爆，國際開源安全組織發(fā)布了2023年針對大語言模型應用的十大安全威脅，而結合種種發(fā)生的事件，證明這些安全威脅并不是預言而是正在發(fā)生。由此看，安全已經(jīng)是構建生成式AI應用不可回避的重要議題。那么作為全球云計算領導者的亞馬遜云科技又是如何應對生成式AI應用在安全方面的挑戰(zhàn)呢？

對此，亞馬遜云科技大中華區(qū)解決方案架構部總監(jiān)代聞在亞馬遜云科技re:Inforce 2023中國站主題演講中稱，亞馬遜云科技站在全棧的角度，從包括數(shù)據(jù)和模型的安全、應用安全以及全球合規(guī)三個方面來應對。

數(shù)據(jù)和模型安全是構建AI應用的關鍵

不可否認，生成式AI的井噴對一個企業(yè)的數(shù)據(jù)平臺有了更高的要求。要訓練構建一個生成式AI的模型，需要大量的非結構化數(shù)據(jù)。如果一個企業(yè)直接去應用一個最好的模型進行微調(diào)，這時候又需要有高質(zhì)量的專業(yè)化的數(shù)據(jù)來微調(diào)這個模型。這兩個方面的要求目前對于大多數(shù)企業(yè)的數(shù)據(jù)平臺都是提出了更高的要求，尤其是數(shù)據(jù)和模型安全方面。

為此，亞馬遜云科技提供了貫穿生成式AI全周期的數(shù)據(jù)治理，從數(shù)據(jù)源的獲取到數(shù)據(jù)的存儲和查詢，再到將數(shù)據(jù)傳輸給 AI平臺進行模型的訓練、調(diào)優(yōu)和推理，以及全面實施數(shù)據(jù)分類和治理。

以保護存儲中的數(shù)據(jù)為例，亞馬遜云科技通過實施安全密鑰管理、靜態(tài)數(shù)據(jù)加密、強制實施訪問控制、利用機制限制數(shù)據(jù)訪問，保護存儲中的數(shù)據(jù)。而在本次大會上，亞馬遜云科技就推出了敏感數(shù)據(jù)保護解決方案，可實現(xiàn)對企業(yè)敏感數(shù)據(jù)的自動化發(fā)現(xiàn)并在統(tǒng)一平臺管理數(shù)據(jù)資產(chǎn)。該解決方案允許客戶創(chuàng)建數(shù)據(jù)目錄、使用內(nèi)置或定制數(shù)據(jù)識別規(guī)則定義敏感數(shù)據(jù)類型，該方案利用機器學習、模式匹配的方式自動識別敏感數(shù)據(jù)，并提供可視化面板，幫助客戶更輕松地對敏感數(shù)據(jù)進行管理和保護。

至于模型安全方面，針對大模型，幾個月前，亞馬遜云科技宣布推出Amazon Bedrock和多種生成式AI服務和功能，以幫助客戶構建和擴展自己的生成式AI應用程序。其中AmazonBedrock提供了廣泛的基礎模型因此客戶可以選擇最能滿足需求的模型。

具體表現(xiàn)在，首先，Amazon Bedrock后面接入了基礎模型，它給提供了一個API可以使用大模型加速生成式AI的應用程序和開發(fā)，無須管理底層的基礎設施；

其次，Amazon Bedrock會負責任地選取一些合作伙伴，例如AI21 Labs、Anthropic、Stability AI，以及自己的基礎模型，另外亞馬遜云科技最新推出的合作伙伴名單里也增加了Cohere，便于客戶最快速地找到最合適的、能力最強的基礎模型；

最后使用組織內(nèi)部的數(shù)據(jù)來訓練大模型，同時又保證給大模型做了私有拷貝，這個拷貝只是給客戶服務，不會再跟其他任何的大模型共享；訓練數(shù)據(jù)只是在客戶賬戶里來幫助工作，Amazon Bedrock不會拿任何用戶的數(shù)據(jù)來增進自己的模型。這兩點非常關鍵，也是很多企業(yè)在采用大模型的時候?qū)τ跀?shù)據(jù)主權、數(shù)據(jù)保護方面有擔心的一個很重要的點，Amazon Bedrock給了一個非常完善的答案。

應用創(chuàng)造價值，應用安全是實現(xiàn)AI價值的保障

除了上述數(shù)據(jù)和模型安全是構建AI應用的關鍵外，在亞馬遜云科技看來，應用安全是實現(xiàn)AI價值的保障。

對此，代聞介紹，從防護方面，亞馬遜云科技分為兩個階段來防護，第一個階段是開發(fā)流程中的安全防護，第二個階段是生產(chǎn)過程中的安全防護。

其中開發(fā)流程中的安全（DevSecOps）是指安全應該貫穿到從開發(fā)到持續(xù)集成、持續(xù)部署再到投產(chǎn)、監(jiān)控以及整個反饋的過程。為此，亞馬遜云科技利用自身經(jīng)驗，將AI防護應用到軟件開發(fā)的全生命周期，讓開發(fā)更便捷，更安全。

以Amazon CodeWhisperer和Amazon CodeGuru Security為例，Amazon CodeWhisperer是亞馬遜云科技推出的AI編程助手，可根據(jù)開發(fā)者指令利用內(nèi)嵌的基礎模型實時生成代碼建議，該服務內(nèi)置了代碼安全掃描功能，可幫助開發(fā)者查找難以檢測的漏洞并提出補救建議。至于Amazon CodeGuru Security，則可以掃描代碼，在代碼里面尋找漏洞，包括調(diào)用包漏洞，包括很多其他代碼邏輯的漏洞。它還能夠在CICD通過人工智能和機器學習的方式自動降低誤報率，同時它基于API設計，能夠非常方便地集成到開發(fā)工作流里邊去，實現(xiàn)集中化和擴展性。

而涉及到運行中的安全，零信任自然是首當其沖。對此，亞馬遜云科技推出若干工具，幫助客戶在自己的亞馬遜云科技環(huán)境下構建這套機制。

首先是建立一個可信任的網(wǎng)絡通道，為此，Amazon Verified Access 可以搭建一套無需VPN的網(wǎng)絡驗證系統(tǒng)，使用AmazonIAM，或者客戶自己的用戶認證系統(tǒng)，來完成這個認證程序。除了對用戶的認證之外，Amazon Verified Access還支持可以設置規(guī)則。這些管控，可以在幾乎不對應用進行任何代碼改變的情況下部署和發(fā)生。

此外，亞馬遜云科技還推出了Amazon Verified Permissions，為用戶構建的應用程序提供細粒度授權和權限管理，用戶可以使用該服務管理其應用程序的角色和屬性的訪問控制。而為了方便大家來書寫所有的授權規(guī)則，亞馬遜云科技還發(fā)布了一個新的開源語言，叫做CEDAR，CEDAR用于編寫和執(zhí)行授權策略的開源的語言，它可以能夠讓大家更加輕松、更加快速地來創(chuàng)建所有的訪問控制權限。

大模型帶來安全新挑戰(zhàn)，AI提升安全合規(guī)效率

在目前的整個全球環(huán)境下，安全合規(guī)變得越來越重要，目前已經(jīng)有超過130多個國家和地區(qū)制定和頒布了數(shù)據(jù)保護和隱私安全相關的法律法規(guī)。同時由于云計算的大規(guī)模普及，越來越多的重要數(shù)據(jù)正在加速上云，而且數(shù)量和種類在增加。與此同時，業(yè)務持續(xù)變化，也給安全合規(guī)帶來挑戰(zhàn)，這之中就包含諸如像大模型運用帶來的業(yè)務的變化給安全帶來的挑戰(zhàn)。

基于此，亞馬遜云科技在全球獲得140多個安全標準和合規(guī)認證，并將AI技術應用到其安全及合規(guī)服務中，為大規(guī)模批量審查提供安全控制，利用自動化減少手工操作以降低錯誤，利用AI提供一致性判斷，利用AI/ML技術實現(xiàn)自動審查，全面提升合規(guī)效率。例如亞馬遜云科技通過在其500多項自身合規(guī)審計控制項中使用AI技術，將審計時間節(jié)約了53%。

此外，亞馬遜云科技APN合作伙伴網(wǎng)絡提供數(shù)百種行業(yè)領先的安全解決方案，多層保護客戶的應用和數(shù)據(jù)安全。通過全球安全伙伴提供的解決方案，攜手構建1+1>2的安全合作

例如技術方面提供網(wǎng)絡安全、主機安全、應用安全、身份認證、威脅檢測和事件分析、數(shù)據(jù)治理以及安全自動化運維等；咨詢方面提供方案建議、合規(guī)建議以及全面的安全咨詢服務和合規(guī)服務。為此，亞馬遜云科技成為IDC近期發(fā)布的《2023中國公有云托管安全服務能力報告》中獲得滿分最多的廠商之一及“生態(tài)建設”評估維度唯一獲得滿分的廠商。