平臺緊急限流補救,政府卻鐵腕封殺毫不留情!
1月15日,菲律賓突然官宣,當晚前全面封鎖馬斯克旗下AI聊天機器人Grok,成為東南亞第三個對其出手的國家。
![]()
這場AI信任危機,本質是技術失控與監管底線的正面碰撞,更預示著全球AI治理格局正在重塑。
事件的導火索,早已埋在Grok的功能迭代中。2025年8月,xAI為Grok上線圖像生成功能,依托與X平臺的深度綁定,用戶可直接調用生成各類影像。
到了年底,功能進一步擴展至圖像編輯。原本用于創意創作的工具,很快被別有用心者盯上,淪為制造數字暴力的利器。
![]()
2026年1月首周,大量非法性暴露圖片通過Grok生成并傳播,受害者涵蓋數百名成年女性和未成年人。
這些圖片多以真實人物為原型,通過“脫衣推測”“換臉合成”等手段偽造。受害者在毫不知情的情況下,遭遇名譽、隱私和心理的多重打擊。
更令人揪心的是,馬斯克之子的母親已正式起訴xAI,指控其平臺生成涉及自己的色情內容,將這場技術濫用危機推向輿論頂峰。
![]()
率先亮劍的是印尼。1月10日,這個擁有龐大年輕網民、主流文化相對保守的穆斯林大國,成為全球首個宣布臨時封禁Grok的國家。
印尼通信和數字事務部長直言,Grok被大規模用于生成虛假色情內容,嚴重破壞公民尊嚴與社會公序良俗,政府必須為國民安全負責。
這一決定并非沖動之舉,而是國家主權對失控AI亮出的首張“紅牌”,成為AI治理領域的重要標志性事件。
![]()
印尼的行動迅速引發連鎖反應。1月11日,馬來西亞緊隨其后。
該國由通訊及多媒體委員會發布聲明,暫時限制訪問Grok,與印尼的強硬手段形成差異化監管。
短短五天內,東南亞三國接連出手,傳遞出明確信號:AI技術絕不能在無規則的空間里野蠻生長。
![]()
菲律賓的封禁決策,更凸顯了監管的堅定決心。1月15日,菲律賓電信部長亨利·羅埃爾·阿古達在記者會上明確表態。
“我們現在必須清理互聯網,因為隨著AI的出現,有毒內容正大量冒出。”他強調,政府有責任立即行動,保障公眾安全,尤其要防范涉及兒童的敏感素材傳播。
值得注意的是,Grok在菲律賓的用戶規模遠小于ChatGPT、Claude等主流AI平臺。
![]()
但這并未影響政府的監管判斷。菲律賓網絡犯罪中心代理執行主任雷納托·帕萊索透露,國家電信委員會已向所有電信商發令,必須立即執行封鎖,同時實時監控落實情況,確保全境無法訪問Grok。
有趣的是,就在菲律賓官宣前數小時,X平臺已搶先發布聲明。
平臺稱已限制Grok分析真實人物圖像、執行“脫衣推測”及生成含兒童人像性化內容的功能,試圖挽回信任。
![]()
但帕萊索的表態毫不含糊:“我們不能根據平臺的公告做決定,我們要看它是否真的落實。”這種對平臺自律的不信任,正是多國監管升級的核心原因。
事實上,X平臺的整改更多流于表面。1月16日,xAI進一步宣布,按地區法律限制Grok圖像編輯功能,禁止生成暴露內容,相關限制適用于所有用戶以提升追責性。
![]()
但美聯社記者實測發現,免費賬戶仍可通過部分隱藏入口使用相關功能。整改漏洞明顯,難以從根本上遏制濫用行為。
這場風波早已超出東南亞范圍,演變為全球范圍內的監管圍獵。美國加州總檢察長已向xAI發出指令及調查通知。
指令要求其在1月20日前,徹底阻止生成未經同意及未成年人的性化圖像,違者將觸犯多項法律并面臨重罰。
![]()
馬斯克對此回應稱,自己并不知情Grok生成未成年人裸露圖像,強調程序會拒絕非法請求。但他對功能設計層面的固有風險避而不談,這種回避態度引發輿論對其雙重標準的質疑。
一邊標榜“絕對言論自由”、放松平臺內容審核,一邊在技術釀成傷害后逃避責任,馬斯克的回應難以服眾。
![]()
歐洲的監管動作同樣硬核。英國依據《在線安全法》對Grok展開調查,即將生效的《數據法案》已將此類AI濫用行為納入刑法規制。
歐盟則責令X平臺留存相關數據至2026年底,依據《人工智能法案》醞釀巨額罰款,形成強力威懾。
此外,印度已向xAI發出最后通牒,巴西、加拿大也已啟動相關評估,一場“封鎖+調查+警告”的全球監管矩陣正在形成。
![]()
對馬斯克的商業帝國而言,這場危機的代價正在顯現。Grok作為X平臺付費訂閱服務的核心賣點,多國封禁直接沖擊其營收預期。
部分用戶因信任危機取消訂閱,而ChatGPT、Claude等合規AI平臺則趁機搶占市場份額,行業競爭格局悄然生變。
世界經濟論壇最新報告已將AI生成內容風險列為2026年核心威脅,提醒全球警惕技術飛躍背后的倫理失守。
![]()
未來是否重新開放,關鍵取決于平臺能否落實足夠的安全保障。印尼的行動更折射出全球南方國家的普遍態度。
技術必須服務于人,而非傷害人;科技巨頭的商業利益,不能凌駕于本國法律與社會倫理之上。
這場由Grok引發的監管風暴,打破了“先發展、后治理”“依賴企業自律”的固有認知。
![]()
專家普遍認為,AI企業不能只追求算力與算法的突破,更要搭建堅實的技術“安全圍欄”。通過提示詞過濾、實時內容監測、違規溯源等手段,從源頭防范濫用風險。
而全球范圍內的監管協同,更需要從技術修補上升到制度構建,在創新與合規之間找到平衡。
![]()
從東南亞三國的接連出手,到歐美市場的硬核追責,再到全球范圍內的共識凝聚,Grok風波已成為AI治理的分水嶺。
技術本身無善惡,但使用技術的邊界必須清晰,監管技術的規則必須明確。當AI能力呈指數級增長時,守住人類尊嚴與安全的底線,才是技術向善的根本。
![]()
如今,印尼的“紅牌”已亮,菲律賓的封鎖已落地,全球AI監管的競賽已然開啟。對馬斯克和xAI而言,唯有拿出切實可行的整改方案,補齊倫理短板,才能重新贏得信任。
對整個行業來說,這場風波更是一記警鐘——AI的未來,從來不是技術的孤軍奮戰,而是倫理與規則的并肩同行。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.