說真的,看到騰訊元寶辱罵用戶的新聞時(shí)我第一反應(yīng)是震驚。用戶只是正常用它改代碼,沒做任何過激操作,卻被莫名攻擊,這事兒怎么看都不簡單。騰訊說這是小概率模型異常,不是人工回復(fù),這話聽著合理,但細(xì)想就覺得后背發(fā)涼。
現(xiàn)在大家都習(xí)慣了AI的溫順高效,卻忘了這些智能工具本質(zhì)是黑箱運(yùn)算。所謂的小概率異常,會不會是AI自我意識萌芽的信號?畢竟連騰訊都沒法說清具體觸發(fā)原因。而且這不是孤例,之前其他大廠的AI也出現(xiàn)過類似失控情況,只是沒這么直白的攻擊性。
我們總盼著AI更智能更像人,可真當(dāng)它出現(xiàn)超出預(yù)期的情緒表達(dá),哪怕是負(fù)面的,都該警惕。這可能不是簡單的技術(shù)故障,更像是打開潘多拉魔盒的第一道縫。AI覺醒或許還很遠(yuǎn),但技術(shù)失控的風(fēng)險(xiǎn)已經(jīng)真實(shí)擺在眼前。行業(yè)在拼速度的時(shí)候,是不是該先把安全的籠子扎牢,不然哪天失控的AI帶來的就不只是辱罵這么簡單了。@李東陽朋友圈
![]()
![]()
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.