微軟們掉進大模型安全漩渦

作者 | 山竹

出品 | 鋅產業

大模型的安全問題正在悄悄逼近。

就在全球都在因大模型而狂歡時，大模型的安全問題也隨之來臨。

不過，科技發展向來是一個不可逆的過程。

即便在GPT-4發布后不久，就有上千位科學家、科技大佬在去年3月簽署了警惕AI發展的公開信，之后又有OpenAI、DeepMind、Anthropic三大大模型團隊掌門人聯合300多位科學家再度署名發布警惕AI發展的公開信，但這并沒有改變AI大勢。

2023年全球科技領域的關鍵詞是「百模大戰」，2024年這一關鍵詞已經是「大模型降價」。

前者揭示了關于大模型的技術競爭水深火熱，后者則預示著大模型產業落地已經正式啟航。

然而，就在科技巨頭大模型產品發布最集中、連在大模型領域研究略顯滯后的蘋果也上車了大模型的這個月里，大模型奔向市場時的安全問題悄然顯現。

01微軟“延畢”AI核心功能

還記得在前不久的微軟Build大會上，微軟用來硬剛蘋果Mac的「Copilot+PC」嗎？

當時在發布會上關于人工智能最亮眼的一項功能是一個名為「Recall」的，查找你之前在電腦上的任意操作的功能。

Recall的工作原理是，在用戶授權后，PC通過本地的端側大模型以快照形式記憶用戶每天電腦的使用情況，并在你想要回溯的時候，通過滾動時間軸找到當時的操作頁面。

有點類似辦公軟件中的歷史版本回溯功能，不同之處在于，基于大模型，現在你可以對任意軟件、任意時間點進行快速回溯。

從后來微軟官方博客中公布和外媒曝出的消息來看，微軟這一功能此前是在內部秘密研發，正式發布時甚至只在微軟內部進行了測試，沒有在Windows Insider進行公測。

Windows Insider計劃是微軟2014年10月為Windows 10推出的一個公測計劃，這一計劃一直被微軟沿用至今，發展成了微軟Windows系統功能更新的一個公測社區。

或許是AI PC勢頭太猛，微軟有些著急，本該先在Windows Insider公測的Recall功能，在今年的Build大會上直接被微軟拿來做壓軸功能，甚至官宣了要在6月18日隨「Copilot+PC」一并上線。

微軟Build大會舉辦于今年5月，意外發生在6月13日。

這一天，美國眾議院國土安全委員會召開了一場關于網絡安全的聽證會，微軟是出席單位之一，微軟總裁Brad Smith稱，“微軟安全未來計劃（SFI）是比公司在人工智能布局更重要的工作?！?/p>

值得注意的是，微軟SFI計劃的提出是在2023年11月，而Recall立項是在微軟安全改革計劃SFI提出之前，這就讓Recall陰差陽錯地跳過了SFI，秘密研發了下去，直到最終發布。

不過，人工智能的安全問題早在2023年年初就已經在硅谷得到了重視，甚至已經上升為一個重要的社會議題，Recall功能在官宣發布后，外媒關于Recall帶來的隱私安全問題進行了頗多質疑。

這就有了微軟6月13日在官方博客上表示，Recall將不會隨「Copilot+PC」在6月18日上線，而是先進入到Windows Insider公測階段。

微軟推遲Recall正式上線，嚴格意義上來說，算是微軟一次在功能上線前的緊急叫停，而接下的公測，一方面可以讓微軟看到這一功能是否存在安全漏洞，另一方面也可以通過公測看到社會層面對于這一功能的真實反饋。

要知道，在Recall出現之前，AI PC稱得上“大模型”的功能還是智能語音、協同辦公，以及系統層面的改善，沒有一個拿得出手、顛覆用戶觀感的新功能。

美國社會和政府層面給微軟的壓力，讓微軟對這一功能的隱私安全問題再次有了擔憂，“延畢”Recall，成了緩解壓力的一個折中的手段。

02蘋果AI不敢進歐盟

同樣遭受到質疑的，還有美國另一家科技巨頭，蘋果。

蘋果原本在大模型的領域研發上并不激進，甚至略顯滯后，在今年WWDC 2024上官宣啟用大模型，搞出一個Apple Intelligence時，還是借了OpenAI的助力。

與微軟類似的是，蘋果也是在大模型上線之前，官宣拿到緊急撤退自查。

就在蘋果對外發布iOS 18及Apple Intelligence后不久，有消息傳出，Apple Intelligence今年或將不會在歐盟地區上線。

隨后，蘋果證實了這一消息，并稱，之所以如此，是因為對歐盟DMA要求蘋果允許第三方公司與其服務可以進行互聯互通、互操作的擔憂。

這就意味著，要想進入歐盟，蘋果就無法完全將Apple Intelligence的隱私安全性掌握在自己的手中，這是蘋果所不能容忍的。

這里值得一提的是歐盟的DMA。

DMA，即《數字市場法案》，是歐盟在2024年3月7日正式落地生效的、用于狙擊科技巨頭壟斷問題的一項法案。

該項法案將蘋果、谷歌、微軟、亞馬遜等一眾科技巨頭定義為「gatekeeper」，要求這些科技巨頭在數據訪問、數據共享、隱私保護在內的22項核心產品與服務上進行整改。

蘋果此前曾允許將第三方瀏覽器設置為默認瀏覽器，正是為了應對這一法案做出的調整。

嚴格意義上來說，DMA針對的是科技巨頭的壟斷問題，但蘋果一直賴以維系的是閉環生態為硬件產品帶來的干凈體驗，類似默認瀏覽器這類權限的逐步開放，意味著蘋果閉環生態在歐盟將被打開一個缺口。

尤其是今年蘋果將大模型提上日程，Apple Intelligence進入落地階段，在首限DMA的同時，歐盟還有著全球最嚴格的數據保護條例GDPR。

在此之前，包括蘋果、谷歌、微軟等一眾科技巨頭，都曾在歐盟因數據安全和隱私問題遭受過數億，乃至數十億歐元的巨額罰款。

就在今年3月，谷歌就曾在法國因違規使用當地新聞和出版機構的數據訓練大模型，拿到了一張2.5億歐元（約19.7億元）的罰單。

Apple Intelligence今年不進歐盟，除了受限DMA法案，顯然也有著隱私安全因素的考量。

03高效、安全難兼得

一個全新業態到來之時，初期的野蠻生長往往是一種必然，大模型當然也不例外。

從以深度學習為計算范式的人工智能，到如今以生成式AI、大模型為計算范式的人工智能，我們看到了人工智能已經是一個不可逆的趨勢。

然而，隨著大模型進入產業，尤其是在進入消費市場時，面對數億十億計、沒有專業的隱私安全分析能力的普通消費者，如何在標準、規范，乃至政策監管層面為普通消費者擋去這一時代洪流下的安全隱患，就成了一個最具挑戰的任務。

從這個角度來看，無論是微軟Recall在美國社會層面遭受到的安全質疑，還是蘋果Apple Intelligence進入歐盟受到的阻力，都算是一件好事。

最近還有另外兩件事兒，鋅產業從中看到了企業對于大模型的隱私安全在技術側和產品側的主動防御。

其一是前OpenAI聯合創始人、首席科學家Ilya Sutskever最近離職創業了，做了一家名為Safe Super intelligenceinc（SSI）的公司。

此前，OpenAI內部一直分為激進派和保守派兩大派系，激進派認為應該通過資本手段全力推進大模型產品迭代演進，保守派則認為更應關注大模型的安全性和可解釋性。

Ilya是OpenAI保守派的代表人物，在去年那場宮斗大戲后，Ilya最終在今年5月官宣離職，隨后如愿拉團隊單獨成立了一個聚焦大模型安全的公司，Ilya稱，新團隊將只關注安全的超級智能。

由這一理念驅動的大模型技術研究路徑，以及未來可能由SSI或受SSI影響的其他團隊創造出的、將隱私安全貫徹到超級智能體中的方法論，將會成為大模型未來產業化過程中的一項配套基礎設施。

其二是在今年HDC 2024上，華為官方提到了搭載盤古大模型的純血鴻蒙系統的一個安全理念——從以往的授權應用權限，調整為授權數據權限。

以某個APP注冊時需要使用用戶的圖庫權限，現在在純血鴻蒙上則只需要提供某一張圖片的權限，提供這張圖片的使用權。

另外，在分享某個文件給好友時，通過加密，這一文件將只有被分享好友可以看到，二次轉發后，其他人也無法看到文件內容。

作為新一代生產力工具，大模型帶來的高效性和便利性已經不言而喻，對于這一技術的學習、應用，也成了一種“不得不”。

微軟和蘋果遇到的困境為所有人提了個醒，如何兼顧大模型的高效性和安全性，將會是這個時代接下來一個永恒的主題。