![]()
圖片來源:視覺中國
藍鯨新聞12月5日訊(記者 朱俊熹)上線不到一周,字節跳動聯手中興打造的首款"豆包助手"AI手機便卷入輿論風波。部分首批用戶在試用過程中,遭遇無法登錄微信、被多款銀行App彈窗預警等狀況。一時之間,究竟該不該"讓AI接管手機"成為公眾討論焦點。
12月5日,豆包手機助手團隊再發聲明稱,為了讓技術發展、行業接受度和用戶體驗多方都能形成良性適配,計劃在接下來的一段時間,在部分場景對AI操作手機的能力做一些規范化調整。具體調整包括但不限于,一是限制刷分、刷激勵的使用場景;二是進一步限制金融類應用的使用;三是限制部分游戲類使用場景。
在科技公司的炫目演示中,AI仿佛已化身萬能助手,為用戶帶來科幻般的便捷生活。然而,背后的隱私安全疑慮就如同一團迷霧。更深處的暗流,是各家應用平臺的商業利益之爭。留給用戶的疑問是,AI究竟如何接管你的手機,信息安全又該怎樣得到保障?
誰在操控你的手機?
12月3日,針對外界關于"豆包手機助手擁有操作系統高危權限"的質疑,團隊發布了澄清聲明,強調不存在任何黑客行為。
聲明指出,豆包手機助手擁有INJECT_EVENTS權限,確實是系統級權限。但其技術實現依賴Android系統級權限,有更嚴格的使用限制。只有擁有INJECT_EVENTS權限許可,產品才能跨屏、跨應用來模擬點擊事件,完成用戶操作手機的任務需求。而豆包手機助手需要經過用戶主動授權后,才可以調用該權限。
"據我們了解,目前行業的AI助手,均需要使用該權限(或與其類似的無障礙權限)才能提供操作手機的服務。"團隊表示。
INJECT_EVENTS權限允許應用向系統注入輸入事件,例如模擬用戶的點擊、滑動、按鍵等操作。這意味著,擁有該權限的程序可以在系統層面像用戶一樣控制手機屏幕。而無障礙權限是Android系統為視障、聽障等群體設計的輔助功能。獲得無障礙權限后,應用可以讀取屏幕內容,并執行點擊、滑動等部分操作,權限能力相對更有限。
個人隱私保護專家、北京漢華飛天信安科技有限公司總經理彭根向藍鯨科技解釋稱,INJECT_EVENTS權限屬于更高等級的系統底層權限,需要手機廠商通過一定技術方式賦予,一般的應用無法直接獲取。相比之下,無障礙權限是普通應用在安裝后,經用戶主動授權即可開啟的權限集合,更強調用戶的知情與同意。
而在今年8月,大模型廠商智譜AI在發布智能體AutoGLM 2.0時表示,引入了"云手機/云端桌面"式執行形態,可在云端自主完成跨應用任務,無需依賴終端的無障礙權限。
有知情人士告訴藍鯨科技,AutoGLM選擇的路徑不同于豆包手機助手。它直接To C依托云設備,不依賴手機廠商,從而避免執行時搶占用戶屏幕,并降低適配多家不同系統的成本,符合現有系統生態。
在通過不同渠道獲取必要權限后,AI助手才能做到接管人類手機,執行各種跨App任務。具體操作方式大致分為兩類。目前更為主流的是基于GUI的視覺路線,即AI Agent通過閱讀和理解屏幕內容,模擬點擊、滑動等動作來代替用戶操作。在這種模式下,智能體并不需要獲得第三方App的許可,可以繞開各家應用的限制。
而另一種可行的路徑則需要Agent或手機廠商與App方達成協議,通過官方API接口來調用應用功能。
據官方介紹,豆包手機助手的操作手機Pro模式除調用GUI Agent外,還可直接調用手機終端的系統工具。演示視頻顯示,在操作手機Pro模式下,當用戶說"幫我給女兒推薦幾個禮物放進購物車"時,若記憶中已存儲女兒的年齡、興趣等信息,助手可直接查詢符合女兒年齡、偏好的方案,無需用戶逐一交代細節。
一位業內人士對藍鯨科技表示,如果從用戶的數據安全出發,更好的做法是推動各方主體的合作而非競爭。"但做接口方案的主動權在App廠商手上,而不在Agent方面。"他指出,"安全與權限之爭只是表層,深層是決策權的爭奪。"
如果AI Agent成為統一入口,用戶不再直接操作各個App,勢必對應用端的用戶數據、商業模式構成挑戰。
類似的紛爭在國外已初現端倪。今年11月,亞馬遜以侵權為由起訴AI搜索創企Perplexity,試圖阻止其通過智能體工具幫助用戶在亞馬遜上購物。Perplexity回應稱,亞馬遜本應歡迎這種便捷購物,因為這意味著更多交易和更滿意的客戶,但它"更關心的是投放廣告、顯示贊助結果,以及通過附加銷售和復雜優惠來影響購買決策"。
豆包手機助手團隊在最新聲明中表示,"目前,我們也在積極尋求與各應用廠商的深度溝通,希望推動形成更加清晰、可預期的規則,避免用一刀切的方式否定用戶合理使用AI的權利。"
華為小藝、小米小愛曾試水調用微信,后放棄執行
回到此次豆包手機助手爭議的導火索,是多位用戶反饋若涉及操作微信,會出現微信異常退出甚至無法登錄的情況。
12月3日,豆包手機助手團隊回應稱,后續已下線手機助手操作微信的能力,樣機上被禁止登錄的微信賬號正陸續解封,請用戶等待一段時間并嘗試重新登錄。微信方面則表示,并沒有特別動作,可能是觸發了微信原有的安全風控措施。
![]()
圖片來源:豆包手機助手用戶群截圖
《騰訊微信軟件許可及服務協議》中明確指出,不得通過非騰訊開發、授權的第三方軟件、插件、外掛、系統,登錄或使用微信軟件及服務,或者進行自動化操作。也不得自行或者授權他人、第三方軟件或系統等對微信軟件及其組件、模塊、數據進行控制、訪問、讀取或干擾。
搭載豆包手機助手的工程樣機nubia M153,并不是業內首款標榜"讓AI接管手機"的產品。而通過AI智能體在微信上完成發消息、點贊等操作,也成為眾多廠商展示其智能體能力的典型場景。
2024年11月,智譜推出升級后的第一代智能體產品AutoGLM。在發布活動現場,智譜CEO張鵬通過語音指令,讓手機里的AutoGLM在微信中創建面對面群聊,并發放一百個紅包。然而在今年發布AutoGLM 2.0時,智譜的官方演示中不再提及微信,卻依然支持操作美團、京東、小紅書、抖音等數十款高頻應用。
此外,手機廠商華為的AI助手小藝也曾支持自動打開微信,幫助用戶發送消息。但目前,華為小藝、小米小愛等手機廠商自有的AI智能體已無法直接調用微信功能。原因可能在于,微信作為國民級應用,對任何自動化操作都保持極高風控敏感度,因此也成為此次豆包手機助手最先觸發風險的場景之一。
至于銀行、互聯網支付等金融場景,豆包手機助手團隊稱其直接關聯用戶的資金安全。雖然豆包手機助手在敏感操作時都需要用戶授權,但審慎起見,也將暫時下線操作這類APP的能力。
在《豆包手機助手隱私安全白皮書》中,包括金融與交易操作、高風險不可逆操作、健康與醫療數據處理等在內的六大類操作被歸為高敏操作,需要用戶二次確認后才能接入并執行。
另有手機智能體廠商告訴藍鯨科技,當涉及支付、內容發布等敏感操作時,其Agent系統會強制請求用戶確認,或由用戶直接"接管手機"完成。此外,廠商還會通過工程策略和權限邊界來防止"超指令"行為,高風險步驟默認不自動執行。
在藍鯨科技此前的實測過程中,使用豆包手機助手操作多家銀行App時,中國建設銀行App會主動彈窗提示,建議用戶退出錄屏或共享軟件"AI操作手機",以保障個人信息及資金安全。中國農業銀行App則在豆包手機助手進行轉賬操作期間,因停留時間過長而觸發類似安全提醒。中國交通銀行App并未作特別警示,直至涉及具體轉賬動作時,豆包手機助手會轉換到手動操作模式。
![]()
圖片來源:藍鯨科技實測截圖
記者查閱發現,上述幾家銀行App在個人電子銀行服務協議中均提及,用戶應妥善保管身份認證要素,不得提供給或交于任何第三方使用。交通銀行App還明確規定,用戶通過自動腳本或第三方外掛系統登錄和使用電子銀行服務,銀行有權采取包括但不限于限制電子銀行服務交易額度和頻次、暫停或終止部分或全部電子銀行服務的措施。
在最新聲明中,豆包手機助手稱會積極與金融類應用相關廠商溝通,"希望共同制定清晰、安全的AI操作行為準則"。
中國社會科學院大學互聯網法治研究中心主任劉曉春則表示,AI智能代理行業尚處初期,技術與規范尚在探索。對這類創新技術,需以包容審慎態度,在精準規范風險的同時為創新留出空間,助力行業良性發展。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.