香港大學社會工作及社會行政學系一名博士生在學術期刊發(fā)表的論文,早前被網(wǎng)友發(fā)現(xiàn)涉嫌引用虛構的“幽靈文獻”,港大社會科學學院副院長葉兆輝則是論文通訊作者。
12月19日,香港大學回復南方記者最新調查結果,確認該論文部分引述文獻為AI虛構生成。港大已采取紀律處分及相應措施,葉兆輝已卸任學院副院長及研究事務相關職務,葉兆輝已向相關期刊申請撤稿,涉事博士生也須按大學既定紀律程序處理。
博士生用AI寫論文,導致生成的參考文獻都是AI虛構的,隨后被讀者指出問題以后,該論文因為使用AI虛構的參考文獻被撤稿。這也充分說明該論文就是用AI生成的,事發(fā)后作為通訊作者的副院長引咎辭職,這件事情是非常有意義的,尤其是作為通訊作者的引咎辭職。
其實,更讓人關注的事,如果這事發(fā)生在大陸,通訊作者是否會引咎辭職呢?答案是肯定的,當年有大牛那么多論文被指出圖片出問題,最后的處理結果就是圖片誤用,當事人一點事情也沒有。
隨著AI的普及,AI已經(jīng)被廣泛應用到各個領域,尤其是學術領域。但學術領域最重要標準就是嚴謹性,目前AI生成的東西,在學術領域的應用,很多是無法證偽的。
例如,前段時間江蘇科技大學郭偉事件爆雷以后,我就嘗試用豆包來查找郭偉獲得國家科技進步獎的情況,實際上得到結果是有問題的,最后還得靠人工去驗證。
當然,AI大模型是可以不斷地學習,改進;但對于一些科學問題,AI的回答很多時候都不夠正確,直接用AI生成的結果,用于科研領域,或者學術論文中,必然會存在一些問題。
至少在目前,這些問題必須得靠人工的手段去證偽。例如港大的博士生就直接利用AI生成論文 ,根本就沒有去核對AI生成結果的正確性,才導致爆雷。
如果該博士生證偽了文獻,其實是很難發(fā)現(xiàn)問題的。AI作為工具,在科研領域,尤其是論文寫作領域降低了門檻,但僅僅是降低門檻而已。將AI提供的結果作為參考,對科研是有很大的幫助的,但完全僅靠AI生成的,其結果依然很難證偽。
港大博士生因AI生成的論文被撤稿,并被處分,導師也因此事辭掉行政職務;這對于規(guī)范AI在學術領域的應用意義重大。畢竟科研依然是充滿創(chuàng)造的過程,很大程度上還得依賴人的智力,還得需要一個論證與證偽的過程。
現(xiàn)在很多學生都是直接用AI來完成作業(yè),直接用AI來查找資料,基本上都沒有人工驗證的階段,這對于學生的創(chuàng)造力培養(yǎng)是非常不利。因為對AI形成依賴以后,解決問題首先想到的就是使用AI。

特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.