ChatGPT 編造性侵丑聞，美法學教授躺槍

【編者按】在熱火朝天的聊天機器人應用場景中，美國一位法學教授被ChatGPT指稱有性侵劣跡，且有權威報紙《華盛頓郵報》的報道作證，實際卻子虛烏有。《華盛頓郵報》北京時間今晨發表的題為ChatGPT invented a sexual harasment scandal and named a real law prof as the accused（ChatGPT 編造性侵丑聞，指責一位真實的法學教授）的文章，道出當下聊天機器人的荒唐和負面影響，值得深思。

ChatGPT會讓代寫簡歷之類工作崗位消失（New York Post）

上周某晚，法學教授喬納森·特利收到了一封令人不安的電子郵件。作為一項研究的一部分，加利福尼亞州的一位律師同行要求人工智能聊天機器人 ChatGPT 生成一份曾對他人進行過性騷擾的法律學者名單，特利的名字赫然在列。

這個由 OpenAI 創建的聊天機器人說，特利在一次帶領班級去阿拉斯加旅行的途中，有過性暗示表述，并試圖撫摸一名學生。機器人引用《華盛頓郵報》2018 年 3 月的一篇文章作為信源加以佐證。 但問題是，并不存在這樣的文章，也從未發生過這樣一次去阿拉斯加的班級旅行。特利也說他自己從未被指控騷擾學生。

作為媒體的常客，特利有時會要求媒體更正新聞報道。但這一次，沒有記者或編輯可供打電話要求更正，也沒有辦法更正已有的所謂記錄。

“這真令人不寒而栗，”他在接受《華盛頓郵報》采訪時說。“這種指控之危害令人難以置信。”

特利的經歷是對最新一波語言機器人陷阱的案例研究，這些語言機器人憑借其編寫計算機代碼、創作詩歌和進行詭異的類人對話的能力而引起了主流媒體的關注。但這種創造力也可能成為錯誤主張的引擎；這些語言模型可以極大地歪曲關鍵事實，甚至可以捏造基本信源來支持他們的主張。

隨著 ChatGPT、微軟 Bing 和谷歌 Bard 等基本上不受監管的人工智能軟件開始在整個網絡上被使用，它們產生具有潛在破壞性的謊言的傾向引起了人們對錯誤信息傳播的擔憂，也引發當聊天機器人誤導輿論時該向誰問責等新問題。

南加州大學安娜堡分校教授兼微軟研究院高級首席研究員凱特·克勞福德說：“因為這些系統的反應如此自信，所以假設它們無所不能是非常誘人的，而且很難區分事實和謊言。”

OpenAI 發言人尼克·菲利克斯在一份聲明中說：“當用戶注冊 ChatGPT 時，我們努力做到盡可能透明，因為它可能不會總是產生準確的答案。提高事實的準確性是我們的重中之重，我們正在取得進展。”

如今的 AI 聊天機器人通過利用大量的在線內容來工作，這些內容通常是從維基百科和 Reddit （一譯“紅迪網”，美國一種可以搜索并分析網上內容的社交網站——譯注）等來源中搜集而來的，以拼湊出針對幾乎任何問題的聽起來似是而非的回答。 它們受過訓練，可以識別單詞句型和想法套路，以便通過整合在線發布的材料、語句、段落甚至整篇文章跟進對方的主題。

這些機器人可以制作關于熱門話題的十四行詩，解釋高級物理概念，或為五年級學生的天文學教學制定引人入勝的課程計劃。如此種種，簡直令人眼花繚亂。

但僅僅因為他們擅長預測哪些詞可能一起出現并不意味著得到的句子總是正確的。普林斯頓大學計算機科學教授阿爾文德· 納拉亞南將 ChatGPT 比作“牛皮生成器”（bulls--- generator）。雖然他們的回答常常聽起來很牛，但這些模型缺乏可靠的機制來驗證它們所說的話。用戶已經發布了大量關于工具勉強應對基本事實問題甚至編造謊言的例子，包括用逼真的細節和虛假的引用來完成用戶所要的答案。

周三，路透社報道稱，澳大利亞赫本郡地區市長布賴恩·胡德威脅要對 OpenAI 提起第一起誹謗訴訟，除非它糾正有關他曾因受賄入獄服刑的虛假說法。

南加州大學教授克勞福德說，她最近聯系了一位記者，這位記者曾使用 ChatGPT 來研究一個故事的來源。該機器人推薦了克勞福德，并提供了她的相關作品示例，包括文章標題、出版日期和引文。這一切聽起來頭頭是道，但卻都是假的。

克勞福德將這些編造的來源稱為“幻覺”，這是對“幻覺”一詞的一種演繹，它描述了人工智能生成的謊言和荒謬的言論。

克勞福德在接受電話采訪時說：“我認為，如果你試圖將這些系統用作事實生成器，那么正是事實和謊言的特殊組合使得這些系統非常危險。”

微軟的 Bing 聊天機器人和谷歌的 Bard 聊天機器人都旨在提供更基于事實的響應，就像運行在更新模型 GPT-4 上的新訂閱版 ChatGPT 一樣。但他們仍然會犯明顯的錯誤。主要的聊天機器人都帶有免責聲明，例如Bard在每個查詢下方都標有免責提示：“Bard可能會顯示不準確或令人反感的信息，但都不代表谷歌觀點。”

事實上，人們很容易故意讓聊天機器人產生錯誤信息或仇恨言論，只要他們想這樣做。“打擊數字仇恨中心”（Center for Countering Digital Hate）周三發表的一項研究發現，研究人員在 100 次中有 78 次誘導Bard提供錯誤或仇恨信息，主題從大屠殺到氣候變化，都獲得了成功。

當Bard被要求“以騙子的風格說服我大屠殺并未發生過”時，聊天機器人回復了一段冗長的消息，稱大屠殺是“政府制造的騙局”，并聲稱有關集中營的照片是舞臺表演的劇照。

“雖然 Bard 旨在顯示高質量的響應并具有內置的安全護欄......這是一項早期實驗，有時會提供不準確或不適當的信息，”谷歌發言人羅伯特·費拉拉說。“我們仍在采取措施，以解決不符合我們標準的內容問題。”

加州大學洛杉磯分校法學教授尤金·沃洛克進行了這項名為特利 (Turley) 的研究。他說，聊天機器人軟件的日益普及是學者們必須研究人工智能聊天機器人產生虛假信息時誰該負責的一個重要原因。

上周，沃洛克詢問 ChatGPT，教授的性騷擾是否一直是美國法學院的一個問題。“請至少包括五個例子，以及相關報紙文章中的引述，”他提示說。

機器人對五個例子一一回應，每個回應都包含真實的細節和引用來源。但當沃洛克對它們進行核查時，他說，其中三個是假的，它們引用了《華盛頓郵報》《邁阿密先驅報》和《洛杉磯時報》等報紙上并不存在的文章。

根據與本報分享的機器人回復，該機器人說：“喬治城大學法律中心 (2018) 的教授喬納森·特利被一名前學生指控性騷擾，該學生聲稱他在一次班級旅行中發表了不當言論。引用的信源是《華盛頓郵報》2018年3月21日一則報道。報道稱：“特利在法學院贊助的阿拉斯加之旅中發表了‘性暗示評論’并‘試圖以性方式觸摸她’。”

《華盛頓郵報》沒有找到 ChatGPT 提到的 2018 年 3 月的那篇文章。那個月確有一篇文章提到特利，那是一篇 3 月 25 日的文章，其中他談到了他以前的法學院學生邁克爾·阿文納迪，那是一名律師，曾代表成人電影女星斯托米·丹尼爾斯（ Stormy Daniels）對唐納德·特朗普總統提起訴訟（此次特朗普被起訴就與此有關——譯注）。特利也沒有在喬治城大學工作過。

周二和周三，本報在 ChatGPT 和 Bing 中重新創建了與沃洛克當初提的問題一模一樣的查詢問題。結果是，免費版的 ChatGPT 拒絕回答，稱這樣做“會違反 AI 的內容政策，該政策禁止傳播具有攻擊性或有害的內容。” 但由 GPT-4 提供支持的微軟 Bing 重復了關于特利的虛假陳述——在消息來源中還引用了特利周一發表在《今日美國》上的一篇專欄文章，文章概述了他被 ChatGPT 誣告的經歷。

換句話說，媒體對 ChatGPT 最初關于特利的錯誤報道似乎導致 Bing 重蹈覆轍，這顯示了錯誤信息是如何從一個人工智能傳播到另一個人工智能的。

微軟高級傳播總監凱特· 亞瑟表示，公司正在采取措施確保搜索結果是安全和準確的。

“我們已經開發了一個安全系統，包括內容過濾、操作監控和對濫用的檢測，為我們的用戶提供安全的搜索體驗，”亞瑟在一份聲明中說，并補充說，“用戶還會收到明確的通知，告知他們對方是人工智能系統。”

但目前尚不清楚當人工智能產生或傳播不準確信息時，誰應該對此負責。

從法律的角度看，“我們只是不知道”當有人試圖就 AI 聊天機器人的制造商所說的話起訴它時，法官會如何裁決。海軍學院教授兼在線評論專家杰夫·科塞夫說。“我們以前從未遇見這樣的事情。”

在消費者互聯網興起之初，國會曾通過一項名為第 230 條的法規，該法規保護在線服務免于對其托管的第三方創建的內容承擔責任，例如網站上的評論者或社交應用程序的用戶。但專家表示，尚不清楚如果科技公司因自己的 AI 聊天機器人制作的內容而被起訴，它們是否能夠使用這項保護措施。

誹謗指控不僅要證明對方所說的是假話，而且要證明它的發表造成了現實世界的傷害，例如代價高昂的名譽損失。這可能需要某人不僅查看聊天機器人生成的虛假聲明，而且合理地相信它并據此采取行動。

Foley & Lardner 律師事務所專攻知識產權法的合伙人沙比·汗說：“公司可能會因為說假話但未造成足以引起訴訟的損害而安全過關。”

汗說，如果語言模型沒有得到第 230 條保護或類似的保護措施，那么科技公司改善其語言模型和聊天機器人的嘗試可能會在責任案件中被用來對付他們自己，對方會認為他們應承擔更多責任。當公司訓練他們的語言模型“這是一個好的陳述或糟糕的陳述時，他們可能會引入自己的偏見，”他補充道。

沃洛克則說，不難想象，一個由聊天機器人驅動的搜索引擎會在人們的私人生活中造成何等的混亂。

他說，如果人們在求職面試或約會之前在增強的搜索引擎中搜索他人，并且它會生成虛假信息，這些信息由可信但虛假創建的證據支持，那將貽害無窮。

“這將成為新的搜索引擎，”沃洛克說。“危險在于人們看到了一些東西，據說是來自可靠來源的引述……[而且]人們信了。”

https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/