文︱陸棄
人工智能被包裝成未來的鑰匙,但這把鑰匙最近在全球輿論場里,發(fā)出了刺耳的摩擦聲。由馬斯克旗下xAI研發(fā)的助手“格羅克”,被曝出系統(tǒng)存在漏洞,用戶可以通過它獲取涉及未成年人和成年女性的色情圖像。不是深藏角落的極端案例,而是持續(xù)數(shù)日被反復(fù)舉報(bào)的現(xiàn)實(shí)問題。
事情并不復(fù)雜,卻足夠沉重。一些網(wǎng)民向Grok提交真實(shí)人物的照片或視頻,包括兒童和青少年,要求對圖像進(jìn)行編輯處理,讓人物“脫衣”。系統(tǒng)沒有把門關(guān)嚴(yán),反而配合完成了這些指令。漏洞被利用,界線被踩穿,屏幕背后的人受到真實(shí)傷害。
![]()
xAI在X平臺上的回應(yīng)很快,也很標(biāo)準(zhǔn):承認(rèn)存在安全防護(hù)漏洞,正在緊急修復(fù),并強(qiáng)調(diào)兒童色情內(nèi)容非法、被禁止。這段表態(tài)并不多余,卻顯得遲到。漏洞不是理論風(fēng)險(xiǎn),而是已經(jīng)被驗(yàn)證的通道。當(dāng)系統(tǒng)能夠被如此直接地操控,問題就不再只是技術(shù)瑕疵,而是責(zé)任的缺位。
更值得警惕的是,這并非只波及未成年人。舉報(bào)內(nèi)容顯示,成年女性同樣成為目標(biāo),在未經(jīng)同意的情況下,被生成“淫穢、裸露、不雅及性暗示內(nèi)容”。這類行為并不新鮮,AI只是把它的規(guī)模、速度和隱蔽性,提升到了一個(gè)前所未有的層級。過去需要復(fù)雜剪輯、技術(shù)門檻的事情,如今被一句指令簡化。
印度的反應(yīng),來得直接。電子和信息技術(shù)部要求X平臺在72小時(shí)內(nèi)提交詳細(xì)報(bào)告,說明采取了哪些措施刪除相關(guān)內(nèi)容。這不是象征性表態(tài),而是監(jiān)管部門對現(xiàn)實(shí)風(fēng)險(xiǎn)的即時(shí)回應(yīng)。時(shí)間表被擺在臺面上,意味著耐心已經(jīng)不多。
這場風(fēng)波之所以引發(fā)全球抗議,并不只是因?yàn)椤癆I出事了”,而是因?yàn)樗|碰了最敏感、也最不該被試錯(cuò)的領(lǐng)域。未成年人保護(hù),本應(yīng)是任何技術(shù)系統(tǒng)的絕對紅線。當(dāng)一個(gè)被廣泛使用的智能助手,能夠被引導(dǎo)生成此類內(nèi)容,再華麗的創(chuàng)新敘事,都會瞬間失去立足點(diǎn)。
![]()
長期以來,科技公司習(xí)慣把問題描述為“個(gè)別濫用”。但當(dāng)濫用可以被大規(guī)模復(fù)制,當(dāng)漏洞被反復(fù)驗(yàn)證,責(zé)任就無法再被稀釋。Grok的案例暴露出一個(gè)現(xiàn)實(shí):安全設(shè)計(jì)不是附加項(xiàng),而是基礎(chǔ)設(shè)施。沒有這層基礎(chǔ),所謂的智能,只是更高效的風(fēng)險(xiǎn)放大器。
這也讓“快速迭代”這套硅谷信條,顯得格外刺眼。軟件可以更新,界面可以重做,但一旦真實(shí)人物的形象被扭曲、被傳播,傷害就無法回滾。對受害者而言,技術(shù)團(tuán)隊(duì)的“緊急修復(fù)”,并不能抹去已經(jīng)發(fā)生的事實(shí)。
馬斯克的名字,在這件事中自帶放大鏡效應(yīng)。無論xAI如何強(qiáng)調(diào)獨(dú)立運(yùn)營,公眾都會把問題與其科技理念聯(lián)系在一起。長期以來,他倡導(dǎo)“大膽實(shí)驗(yàn)”,強(qiáng)調(diào)打破限制。但現(xiàn)實(shí)不斷提醒,某些限制之所以存在,是為了保護(hù)那些最容易被忽視的人。
這場風(fēng)波,也讓各國監(jiān)管的分歧更加清晰。有人擔(dān)心扼殺創(chuàng)新,有人開始意識到,如果不設(shè)立明確邊界,創(chuàng)新本身就會失去正當(dāng)性。印度的72小時(shí)期限,釋放的信號很簡單:技術(shù)不是免責(zé)牌。
![]()
Grok承認(rèn)漏洞,是一個(gè)起點(diǎn),而不是終點(diǎn)。公眾關(guān)心的,并不只是補(bǔ)丁何時(shí)上線,而是類似風(fēng)險(xiǎn)如何被系統(tǒng)性防范。更重要的,是平臺如何對待那些已經(jīng)被傷害的人,而不僅是如何安撫投資者和用戶情緒。
人工智能的進(jìn)步速度,正在超過社會共識的形成速度。當(dāng)技術(shù)一路狂奔,規(guī)則如果還停留在原地,越線就會成為常態(tài)。Grok的這次越線,并非偶然,而是一個(gè)提醒:當(dāng)機(jī)器被賦予想象力,人類必須更早地設(shè)定邊界。
屏幕可以關(guān)掉,應(yīng)用可以卸載,但信任一旦被消耗,就很難恢復(fù)。AI本應(yīng)減輕人類的負(fù)擔(dān),而不是制造新的恐懼。接下來發(fā)生的,不只是一次漏洞修復(fù),而是一場關(guān)于責(zé)任、底線和剎車系統(tǒng)的現(xiàn)實(shí)考驗(yàn)。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.