![]()
Anthropic旗下最新AI模型Mythos因潛在安全風險被拒絕公開發布,這一事件再次引發外界對人工智能開發速度與安全管控能力的廣泛關注。
Anthropic是Claude聊天機器人背后的美國科技公司。該公司于近日證實,正在調查一份報告,報告顯示有人曾未經授權訪問Mythos模型。這一疑似安全事件,令業界對科技企業能否將高風險AI產品牢牢鎖定在公眾視野之外產生了深深的憂慮。
Mythos究竟是什么
Mythos是Anthropic開發的最新一代AI模型。與面向公眾開放的Claude系列不同,Mythos目前被Anthropic列為不宜公開發布的高風險產品。Anthropic認為,該模型一旦流入公眾領域,將對全球網絡安全構成實質性威脅。
為何拒絕公開發布
Anthropic做出這一決定的核心原因在于Mythos可能被濫用于網絡攻擊或其他危害性活動。隨著大語言模型能力持續躍升,部分前沿模型已具備協助發動復雜網絡攻擊的潛力,這使得安全邊界的劃定愈發困難。
未經授權訪問事件的影響
此次疑似未經授權訪問Mythos的事件,進一步暴露了AI行業在安全管控方面的薄弱環節。即便是選擇不公開發布的高風險模型,依然面臨內部泄露或外部入侵的現實風險。這一事件促使外界重新審視:在AI能力快速擴張的當下,科技公司是否具備足夠完善的安全機制,來防止最危險的AI產品落入不法之手。
Q&A
Q1:Mythos AI模型為什么不對公眾開放?
A:Anthropic認為Mythos對全球網絡安全構成威脅,一旦公開可能被用于網絡攻擊等危害性活動。與面向公眾的Claude系列不同,Mythos被列為高風險產品,因此Anthropic決定不予公開發布,以防止其被濫用。
Q2:Mythos遭未經授權訪問事件是怎么回事?
A:有報告顯示,一群人曾未經授權訪問了Mythos模型。Anthropic于近日證實正在調查這一事件。該事件引發了外界對AI公司能否有效管控高風險產品、防止其流入公眾領域的擔憂。
Q3:Mythos事件對AI行業安全管控有什么警示意義?
A:Mythos疑似泄露事件表明,即便AI公司主動選擇不公開高風險模型,仍面臨內部泄露或外部入侵的風險。這促使業界重新審視AI開發速度與安全機制之間的平衡,科技公司是否具備足夠完善的安全手段來管控最危險的AI產品,成為亟待解決的問題。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.