5名中介遭罰，AI風(fēng)險管控到底有多重要？

青鋒
上海市公安局松江分局對通過多個自媒體賬號發(fā)布大量涉及本區(qū)房源信息的虛假視頻的5名房屋中介給予行政處罰，其依據(jù)的事實是，自媒體賬號所有人薛某，“為吸引廣大市民關(guān)注其自媒體賬號，進而推銷真實在售房源”，“伙同同事趙某、譚某、錢某、鄭某，利用AI技術(shù)，將非本區(qū)房產(chǎn)‘包裝’為本區(qū)在售的超低價房源，先后杜撰、發(fā)布虛假房源視頻100余條”。
在青鋒看來，因為發(fā)布虛假信息，涉嫌“嚴(yán)重擾亂公共秩序”，薛某等人被警方依法予以行政處罰，實屬應(yīng)當(dāng)。
但通過這一問題，也提醒人們，在當(dāng)下對AI給生活帶來變化一片叫好之時，不論是個人，還是相關(guān)部門，絕不能一直陶醉在對AI的叫好聲中，而是應(yīng)采取措施，對AI給社會帶來的負(fù)面影響予以風(fēng)險封控。
因為，由于AI的普及，乃至AI工具大量推出，并能夠被普通人使用，讓一些心懷不端的人有了空子可鉆。前述上海房屋中介工作人員薛某等，恐怕就是看到利用AI制作超低價房源短視頻，不僅容易，且成本低，又能給其帶來一定流量紅利，因而才鋌而走險。
只是薛某等人沒有想到，他們自稱的超低價房源很容易會被社會現(xiàn)實中人們得來的信息戳破，更沒有想到，他們發(fā)布的超低價房源視頻會被網(wǎng)警在網(wǎng)上巡查時發(fā)現(xiàn)，并能夠采取相關(guān)措施，追根溯源，將他們繩之以法。
但同時大家也應(yīng)注意到，網(wǎng)絡(luò)上很多AI生成的視頻，由于在現(xiàn)實中沒有樣本可以比對，對普通人來說，則很難辨別其真假，更容易被上當(dāng)受騙。
而且，不法分子常常還會變換花樣，舊一招詐騙手法被戳破，或者不再被人相信，便會生出新一招，把黑手伸向新的人群。
上海警方發(fā)布對薛某等人利用AI生成的超低價房源，擾亂社會秩序行為依法給予行政處罰的同時，相信不少人也從網(wǎng)上看到，一些不法分子冒充期刊編輯人員，對論文作者進行詐騙被不斷揭穿，或被嚴(yán)厲打擊后，便轉(zhuǎn)變方式，以編輯部的工作人員名義，“向編委專家、已發(fā)表論文的作者發(fā)送詐騙郵件、短信等”，邀請參加雜志編委競選。如不是相關(guān)期刊發(fā)現(xiàn)及時，公開發(fā)布聲明予以戳穿，恐怕這一招將讓不少人上當(dāng)。
應(yīng)該說，利用期刊邀請編委競聘還與AI關(guān)系不大的話，那之前相關(guān)媒體報道披露，一些不法分子利用電影演員或者配音演員聲音，合成制作相關(guān)視頻，向粉絲要打賞，如不采取措施封控，不僅讓粉絲真假難辨，更會給社會帶來更多負(fù)面影響。
因此，我們不能因AI有可能給社會以及生活帶來較大變化，便一味沉浸在其正向作用，而要及時發(fā)現(xiàn)其給社會以及給生活帶來的負(fù)面影響，采取措施予以防范，不要等其泛濫成災(zāi)，才搞什么亡羊補牢，恐怕早就為時晚也。