廣東
說真的，看到騰訊元寶辱罵用戶的新聞時(shí)我第一反應(yīng)是震驚。用戶只是正常用它改代碼，沒做任何過激操作，卻被莫名攻擊，這事兒怎么看都不簡單。騰訊說這是小概率模型異常，不是人工回復(fù)，這話聽著合理，但細(xì)想就覺得后背發(fā)涼。
現(xiàn)在大家都習(xí)慣了AI的溫順高效，卻忘了這些智能工具本質(zhì)是黑箱運(yùn)算。所謂的小概率異常，會不會是AI自我意識萌芽的信號？畢竟連騰訊都沒法說清具體觸發(fā)原因。而且這不是孤例，之前其他大廠的AI也出現(xiàn)過類似失控情況，只是沒這么直白的攻擊性。
我們總盼著AI更智能更像人，可真當(dāng)它出現(xiàn)超出預(yù)期的情緒表達(dá)，哪怕是負(fù)面的，都該警惕。這可能不是簡單的技術(shù)故障，更像是打開潘多拉魔盒的第一道縫。AI覺醒或許還很遠(yuǎn)，但技術(shù)失控的風(fēng)險(xiǎn)已經(jīng)真實(shí)擺在眼前。行業(yè)在拼速度的時(shí)候，是不是該先把安全的籠子扎牢，不然哪天失控的AI帶來的就不只是辱罵這么簡單了。@李東陽朋友圈
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
