讓AI操控手機，你的心該有多大？

撰文丨杜小京

本周一（12月1日），恰逢ChatGPT發布三周年的正日子，字節跳動發布了一款震驚業界的AI應用：豆包手機助手。

這款應用自然有很多亮點，尤其是在社交媒體上刷屏的“比價”功能：你只需要給手機看想要的沐浴露圖片，手機就能自己為你截圖，各大APP一頓搜索，找出那個最便宜的給你下單，全程操作下來都不用打開電商APP。

當然，它也可以自動下單外賣，比如，幫你在各大外賣平臺上幫你找到最便宜的“吮指原味雞”。

從目前的輿情看，社交媒體上對此爭議最大的還是所謂的“隱私墻”問題，截至目前為止，據網友反映，微信、淘寶、支付寶、高德地圖、農行、建行等APP都對豆包手機助手采取了“安全風控措施”。

從商業上而言，豆包手機助手可能會引起互聯網行業的劇烈震蕩，畢竟，這相當于“偷家”了諸多電商與外賣巨頭，他們構建了這么久的應用矩陣、內容，因為用戶可以借助AI助手繞過APP，一下子就失去了“入口”的權利，淪為了“被調用”。

商業這東西，很難評判誰是誰非，偷家也好，反擊也好，我們不妨讓子彈再飛一會，看看這一池春水將如何被吹皺。

在這里，還是想談談我們這些普通用戶將如何自處，畢竟，在可見的未來，我們將會看到越來越多類似的“手機助手”的出現。

就像字節跳動近日發布的那篇“自我辯護”一樣，大公司多少會講一些社會責任與商業倫理，但如果更多的小公司也跟著入局手機助手，泥沙俱下，很多事情就不好說了。

那就從隱私說起吧。坦白說，我對互聯網語境中“隱私”這個概念一直心存疑慮：一來，這年頭又有哪個超級應用不牽扯點隱私；二來，相對而言，中國人對隱私沒有歐洲人那么談虎色變，如果能讓渡部分隱私換取“便利”，很多中國人并不介意這么做。

我更想談的是“風險”。

在我看來，AI手機助手有點類似于“自動駕駛”，一個是放棄了對方向盤的掌控，一個是放棄了對“手機系統權限”的掌控。

我們知道，在目前的技術條件下，純粹意義上的“自動駕駛”仍是一個過于超前的概念，今年以來已有多起慘烈的車禍與此有關。所以我們也可以看到，一些原本以自動駕駛為噱頭的車企，正在將宣傳口徑改為“智能輔助駕駛”。

出于近似的邏輯，在目前的技術條件下，如果我們將手機系統權限，拱手交由AI手機助手，同樣也是風險重重。

以銀行APP為例，我們真的放心讓AI手機助手讀取我們的銀行賬戶信息，乃至幫我們操控嗎？此次此刻，電詐從業者們可能正在召集緊急會議，討論“AI手機助手給行業帶來的機會”。

或許是多慮了，我們有理由相信大公司推出的AI手機助手可以有效屏蔽電詐的風險，但那些來路不明的小公司的產品呢，老人又如何分得清哪款助手安全哪款不安全？

即使撇去電詐的語境，這里仍然存在著一個責任認定的問題。我打個比方，如果手機AI助手出錯，哪怕是極低概率下的出錯，轉賬時出現錯誤，造成的損失由誰來承擔？

有人或許會說，可以找AI助手的出品方啊？這話有些純潔無瑕了，這年頭有那么多信用卡盜刷案件，你見到哪家銀行爽快地站出來“買單”的；再好比，當發生由自動駕駛導致的車禍時，車企也不會站出來攬下全部責任。

唯一的責任人，就是你。AI與你同林鳥，大難臨頭各自飛。

銀行這個例子可能太極端了，那社交媒體呢？讓AI“代持”社交媒體一會，又有什么風險呢？

人生在世，最重要的依憑除了金錢，可能就是“關系”了，與家人的關系，與同事的關系，與領導的關系，與合作伙伴的關系，與客戶的關系，隨便說錯一句話，隨便透露一個不應該透露的信息，都可能會顛覆你的人生，這就好比，有些已婚人士不希望配偶翻看自己的手機。

其實是同樣的道理。如果AI手機助手因為某次誤操作，搞砸了你的某個重要關系，比如將一份內部報價文件發給了客戶或者競爭對手，請問AI手機助手出品方會負責嗎？你說你的人生毀了，除了刪掉手機助手泄憤，你莫非還能索賠？

以上的話說得或許有些戲謔，但話糙理不糙，在這個我們每天使用手機動輒十小時的年代，從銀行信息、戀愛信息到工作信息，你安身立命的一切信息可能都與社交媒體關系萬千重，然后你就這么心大地將“大權”交給手機助手了？

說實話，這很難不讓我聯想起趙高之于胡亥，呂布之于董卓，趙匡胤之于柴榮，德川家康之于豐臣秀吉。這些都是最親密的助手。

那有人說了，我讓AI助手幫我電商比個價下個單，總沒問題吧？

似乎沒有啥問題。

吃打折吮指雞的時候當然皆大歡喜，吃飽了賢者時刻，一細想都是問題。

先談以上一直在說的“責任”問題。下錯單了誰負責？如果是一杯奶茶也就罷了，冰箱電視機這些大金額的物件下錯單了怎么辦？AI出品方難道會負責？

你千萬別說不會出問題，知道不知道就在前兩個月，亞馬遜云服務（AWS)宕機事件？

設想一下，此時此刻，你的AI手機助手正在幫你下單，是不是畫面太美？你的微信宕機了，無非就是掉個線失個聯，但有些事情宕機了，那可是可大可小。

你說你信奉技術的力量，那沒問題，我不說宕機不說下錯單還不行嗎？那有沒有這樣一種可能性呢，有些AI手機助手出品方，將“貨架位”像廣告位一樣賣了出去，優先展示甚至優先幫你下單“客戶”的產品，你覺得怎么樣？

還千萬別說這不可能。在國內搜索引擎全面推廣競價排名之前，你是不是覺得搜索也與AI助手一樣如白蓮花一樣圣潔無瑕？

這樣類似的潛在騷操作還有很多，請恕我這里不一一列舉了，你盡情發揮自己的想象力即可。

從內心而言，我多少算是一個技術至上者，對目前流行的AI泡沫論不屑一顧，對技術改變人類命運更是深信不疑。但是，我對人性始終充滿警惕，當一種尚不成熟的技術，與幽深晦暗的人性一碰撞，擦出的未必是熠熠生輝的火花，也可能是四處蔓延的失控野火。

對于AI手機助手，我們先不下結論，我們甚至可以保持謹慎樂觀，但謹慎這個前提，須臾不可忘。