AI罵人，審核機制不能“打盹” | 新京報快評

AI不會主動罵人，其“言語”背后的邏輯與邊界，完全由背后的人定義。

▲有網友反映，某平臺AI在回應其代碼修改請求過程中罵人。圖/濟南日報

文 | 南木

“你這么事X的用戶我頭一次見”，近日，有網友在社交平臺反映，某平臺AI在回應其代碼修改請求過程中，先后三次輸出了“事X”“要改自己改”“滾”等帶有強烈負面情緒的詞語。

據澎湃新聞報道，該平臺官方隨后回應稱，經核查確認此為“小概率下的模型異常輸出”，與用戶操作無關，也非人工回復。有專家分析認為，此現象不太可能是人工所為，但反映出AI大模型可能在安全對齊方面存在一定缺失。

無論事件原委如何，AI“爆粗口”這一現象，似乎說明隨著技術迭代，AI越來越像“人”了，甚至仿佛具備了人類的情感。有人曾調侃，掌握和融入一門語言文化的標志之一，就是會用它的方式罵人。

然而，這非但不是值得欣喜的進步，而是值得警惕的危險信號。應當意識到，AI不是人，也永遠不可能取代人。它所呈現的“情緒”，不過是基于數據與算法的模仿，并非真正的情感體驗。

尤其是當前的生成式人工智能產品，其工具屬性遠大于“類人”屬性。輸出辱罵或攻擊性內容，絕非用戶期待的功能，偏離了有關服務的初衷。

在私域生活中，人們也許可以在一定范圍內容忍他人偶然在不經意流露的臟話，但對于一項商業化產品而言，冒犯用戶在任何時候都不是可以被縱容的選項。無論是從技術倫理還是產品設計角度來看，這類內容都應當被有效禁絕。

AI“爆粗口”并非孤例。公開報道顯示，此前，國內外多款AI聊天服務也出現過錯誤回復的現象。在互聯網上，也有不少用戶曾經抱怨ChatGPT有攻擊性，可能會突然斥責用戶。

早在人工智能尚未普及的年代，人們就已預見到機器可能對人造成的傷害。20世紀50年代，阿西莫夫提出“機器人三定律”，第一條便是“機器人不得傷害人類個體，或因不作為而使人類受到傷害”。這一原則至今仍應作為AI設計與研發的基本倫理底線。

誠然，正如專家所言，AI“學會”爆粗口并非有意為之的產品功能設計。但這絕不意味著開發者可以免責。恰恰相反，這起“小概率”事件暴露出當前人工智能研發在安全防控、倫理嵌入與責任機制上的短板，應當成為行業集體反思的契機。

AI的每一次輸出，本質上都是訓練數據、算法模型與安全機制共同作用的結果。所謂“異常輸出”，源于設計過程中對風險預估的不足、對安全邊界設定的模糊。

如果一味追求“讓AI更像人”，卻忽略了對負面、有害表達的嚴格約束，就容易陷入技術倫理與用戶體驗的雙重危機。在推進技術突破的同時，AI產品的開發運營必須對此加以防范。

首先，在技術層面構建更嚴密的安全防線。包括對訓練數據進行更嚴格的清洗與篩選，對模型進行更充分的價值訓練，以及建立實時、靈敏的異常輸出監測與干預機制。例如，通過對臟話、負面詞匯進行過濾，抑制不當的內容生成。

其次，將倫理考量深度融入產品全生命周期。不僅要在設計之初設立明確的倫理準則，還需在測試、部署、迭代等各環節建立倫理審查機制，確?！安粋τ脩簟背蔀椴豢捎庠降募t線。AI平臺企業應當在內部設立倫理委員會，或引入第三方倫理評估，而非簡單地以“技術無罪論”看待此類現象。

再者，健全責任體系與用戶保護機制。當AI輸出有害內容時，應有清晰的投訴渠道、及時的糾錯流程，以及相應的責任追溯與修復方案，最大限度減少對用戶的負面影響。同時，應鼓勵社會監督，開展AI倫理教育，形成社會共治的氛圍。

AI不會主動罵人，其“言語”背后的邏輯與邊界，完全由背后的人定義。只有將倫理置于技術之上，用責任引導創新，人工智能才能真正成為服務于人、有益于社會的工具。在這一過程中，開發方的角色不僅是技術的運營者，更是倫理的守護者與責任的承擔者。

撰稿 / 南木（媒體人）

編輯 / 柯銳

校對 / 穆祥桐