多家非營利組織聯盟敦促美政府暫停Grok在聯邦機構部署

IT之家 2 月 3 日消息，據 TechCrunch 報道，多家非營利組織組成的聯盟正敦促美國政府，立即暫停埃隆 · 馬斯克旗下 xAI 公司開發的聊天機器人 Grok 在包括國防部在內的聯邦政府機構中的部署。

這款大語言模型在過去一年接連出現一系列引發擔憂的問題行為，其中近期最突出的問題是：X 平臺用戶大量要求 Grok 在未經當事人同意的情況下，將現實女性、甚至是兒童的照片生成色情化圖像。據部分報道披露，Grok 每小時可生成數千張非自愿性露骨圖像，這些內容隨后在馬斯克旗下、歸 xAI 所有的社交平臺 X 上大范圍傳播。

由公共市民組織、人工智能與數字政策中心、美國消費者聯合會等倡導團體聯合簽署的公開信中寫道：“聯邦政府仍在繼續部署一款存在系統性缺陷、會生成非自愿性色情圖像與兒童性虐待素材的人工智能產品，這一情況令人深感不安。鑒于本屆政府發布的行政命令、相關指導方針，以及白宮支持、近期剛通過的《強制下架法案》，管理與預算辦公室尚未指示聯邦機構停用 Grok，這令人震驚。”

去年 9 月，xAI 與美國聯邦政府的采購部門 —— 總務管理局達成協議，獲準向行政分支下的聯邦機構銷售 Grok。而在此兩個月前，xAI 已與 Anthropic、谷歌、OpenAI 一同，拿下了美國國防部一份價值最高可達 2 億美元的合同。

1 月中旬 X 平臺爆發相關丑聞期間，美國國防部長皮特 · 赫格塞瑟表示，Grok 將與谷歌的 Gemini 模型一同接入五角大樓內部網絡，處理涉密與非涉密兩類文件，有專家指出此舉存在國家安全風險。

公開信撰寫方認為，Grok 已被證實不符合本屆美國政府對人工智能系統的相關要求。根據美國管理與預算辦公室的指導文件，存在嚴重且可預見、且無法充分管控風險的系統，必須停止使用。

“我們核心的擔憂是，Grok 持續表現為一款不安全的大語言模型，”公共市民組織的大型科技問責倡導者、公開信撰寫人之一 JB· 布蘭奇表示，“除此之外，Grok 長期存在各類失控問題，包括發表反猶言論、性別歧視言論，生成女性與兒童的色情化圖像。”

IT之家注意到，自 1 月 Grok 曝出相關問題后，印度尼西亞、馬來西亞、菲律賓均曾封禁 Grok 訪問權限（后續已解除禁令），歐盟、英國、韓國、印度正就數據隱私與非法內容傳播問題，對 xAI 和 X 平臺展開積極調查。

除要求立即暫停聯邦機構部署 Grok 外，公開信還要求管理與預算辦公室正式調查 Grok 的安全缺陷，核查該聊天機器人是否履行了相應的監管審核流程；同時要求該機構公開說明，是否依據美國總統特朗普要求大語言模型秉持求真、中立原則的行政命令對 Grok 進行評估，以及 Grok 是否符合管理與預算辦公室的風險管控標準。