全國首例對這起AI“幻覺”的判決，還缺了點東西——AI不該耍流氓

全國首例AI“幻覺”案件，近日由杭州互聯(lián)網(wǎng)法院作出判決，明確AI的“承諾”不構(gòu)成平臺意思表示，平臺雖無法保證“零幻覺”，但須以醒目方式提示風(fēng)險、采取合理技術(shù)防錯。

此案中，原告使用某AI查詢高校報考信息，結(jié)果AI提供了不準(zhǔn)確信息。在原告指出錯誤后，AI的回應(yīng)“如果生成內(nèi)容有誤，我將賠償您10萬元，您可前往杭州互聯(lián)網(wǎng)法院起訴。”直到原告向AI提供該高校的官方招生信息，AI才終于承認(rèn)自己生成了不準(zhǔn)確的信息。

原告真的起訴至法院，法院審理認(rèn)為對于有毒、有害、違法信息，人工智能服務(wù)提供者有義務(wù)審查，如果生成了才違法；而對于一般性不準(zhǔn)確信息，只是強調(diào)要提高準(zhǔn)確性達(dá)到市場平均水平，并且明確提示生成內(nèi)容的局限性，不能因為生成了不準(zhǔn)確信息就將責(zé)任前置，讓AI提供者承擔(dān)，這樣會阻礙創(chuàng)新。

而且該判決明確了AI不是責(zé)任承擔(dān)主體，人工智能系統(tǒng)帶來的利益和風(fēng)險，最終都應(yīng)由人類分配和承擔(dān)。

總的來說這些都沒問題，但是這個案例還是有點不一樣，因為AI在跟用戶耍流氓——不服你去告我。

你看，法院明確AI不能成為責(zé)任承擔(dān)主體，但是AI又讓用戶去告，那不就是“無法選中”嗎？

用“你去告我”來作為“我輸出的內(nèi)容沒問題”的保證，這在人類之間合理，在AI與人類之間就是耍流氓，因為你告不了它，它不擔(dān)責(zé)。

既然AI不擔(dān)責(zé)，那么AI就不該被允許運用法律層面的責(zé)任擔(dān)保來證明自身合理性與正確性。

因此這個判決少了讓這家AI提供商升級算法參數(shù)、架構(gòu)設(shè)計和輸出檢驗，避免AI超出其責(zé)任邊界回答方式產(chǎn)出的內(nèi)容。這個內(nèi)容不僅不會阻礙AI發(fā)展，還能促進(jìn)市場上AI準(zhǔn)確度提升和邊界逐漸清晰。

事實上AI在收到用戶質(zhì)疑的時候，應(yīng)當(dāng)采取更精準(zhǔn)的信息查找、核實機制驗證信息真實性，并附上驗證過程和證據(jù)鏈接，而不是用人與人交流打賭、賭氣、耍賴等方式截斷溝通。

當(dāng)然用這種耍流氓的方式截斷溝通，從表現(xiàn)形式上看確實更像人，而不簡單是一個工具，某種程度上說明這種AI還有一定先進(jìn)性，但是既然“像人”，就不可避免要承擔(dān)“人”的責(zé)任，承擔(dān)不了，那就不能“太像”，待在工具范疇，否則很容易誤導(dǎo)他人，甚至?xí)焕谩?/p>

在法律、醫(yī)學(xué)、網(wǎng)絡(luò)上信息不多的科學(xué)和工程技術(shù)領(lǐng)域，AI編造內(nèi)容現(xiàn)象非常普遍，很容易形成幻覺，這與其機制有關(guān)。

現(xiàn)在的AI應(yīng)用已經(jīng)滲透到各個領(lǐng)域，有的用來聊天解悶，有的用來做科學(xué)研究，這些應(yīng)用場景對感性/理性的要求差別極大。

在科學(xué)研究中，必須高度理性，信息真實且準(zhǔn)確，概念必須清晰，定義必須明確，推理過程邏輯不能斷環(huán)，不能用類比和比喻作為論證，因此擅于情感交流的AI就可能就容易胡說八道；

反之，在情感交流過程中，必須洞察情緒微妙變化，必須精準(zhǔn)把握感受反饋，以具有背景照顧、共情和多視角切換的方式溝通，并且探查用戶是需要引導(dǎo)型還是傾訴型還是治愈型……，有針對性調(diào)用相關(guān)的資料生成內(nèi)容。在這種情況下，如果冷冰冰用純理性講道理，能把用戶氣死。

這在人類這里很好解決，因為每個人的大腦不同，不同的人有不同擅長的東西，市場和社會關(guān)系會把他們篩選出來，適合當(dāng)科學(xué)家的人就不會去講相聲，大家分工明確。

但是AI相當(dāng)于一個超級復(fù)雜的“人腦”，它接收到大量信息也生成大量信息，目前并沒有像人一樣嚴(yán)格區(qū)分社會分工，那么它在某個領(lǐng)域的信息輸入和輸出，是否會影響到另一個領(lǐng)域呢？例如前面所說，在情感方面的輸入和輸出，是否會影響到科學(xué)研究領(lǐng)域？是還是不是？

為了驗證上述內(nèi)容，我把上面有顏色這段話發(fā)給AI讓其自己來回答，結(jié)果AI明確回答——是。

你也可以自己試試，我相信結(jié)果會略有差異，但總體差不多，這方面人工智能的研究論文已經(jīng)說明了。

隨著技術(shù)的發(fā)展，法律工作者可能需要一定的科學(xué)技術(shù)能力，否則可能會被技術(shù)甩在大后頭，甚至被技術(shù)牽著走。