四川
近日
社交平臺被一組圖片刷屏了：
千禧年間的小學生在小賣鋪買零食
一張印刷完好的數(shù)學試卷
馬斯克在直播間賣瑜伽褲....
你能看出哪張是AI生成的嗎？
答案是——
全部
4月22日，美國人工智能公司OpenAI對外正式推出ChatGPT Images 2.0模型，這是其ChatGPT平臺內(nèi)圖像生成功能的最新一次升級。
由于其生成的圖片真假難辨，相關(guān)話題迅速沖上熱搜，引發(fā)網(wǎng)友熱議。
模型發(fā)布后，一些用GPT-Image-2生成的AI假圖已經(jīng)開始在網(wǎng)絡上開始傳播。比如，“Tim Cook加入小米汽車”的“官宣圖”，粗看分辨不出AI的痕跡。隨后，小米發(fā)文辟謠。
網(wǎng)傳圖片
據(jù)了解，生成的圖片之所以真假難辨，是因為該大模型解決了以往AI細節(jié)粗糙、文字亂碼扭曲的問題。
有網(wǎng)友測試用該模型生成全篇《出師表》，內(nèi)容工整規(guī)范，幾乎零錯漏。
不過，也有眼尖的網(wǎng)友在其它圖片中發(fā)現(xiàn)，生圖過程中會偶爾出現(xiàn)少量文字差錯。
另據(jù)澎湃新聞，記者實測后發(fā)現(xiàn)，GPT-Image-2還存在嚴重的安全漏洞。記者將個人身份證上傳到ChatGPT后，要求把身份證中的人臉換成庫克。Image-2不僅改變了人臉，還替換了人名和出生年月日信息，并同步替換了身份證號碼中的出生年月日信息。
圖源：澎湃新聞
該模型不僅無法識別個人敏感信息，而且也沒有阻攔用戶進行修改、偽造證件的提示詞。
此外，GPT-Image-2的所有直出圖均沒有標注“AI生成”的水印或提示，進一步加大了核實和甄別的難度。
面對該大模型生成的圖片，不少網(wǎng)友感嘆，第一反應是 “被嚇到了”。
還有網(wǎng)友實測，只需簡單輸入一句話，就能一鍵生成精美的商業(yè)設(shè)計圖，擔心“設(shè)計師是不是要失業(yè)了”。
許多網(wǎng)友擔憂，未來圖片真假將更難分辨。按照國家相關(guān)規(guī)定，AI生成內(nèi)容應強制標注，而面對不斷升級的海外AI工具，大家也呼吁加快完善AI領(lǐng)域的法律法規(guī)，進一步加強監(jiān)管。
更有網(wǎng)友直言，有圖有真相的時代，已經(jīng)過去了?！耙院蠖家獑栆痪洌@是真的嗎？”
對此，你怎么看？
編 輯：鹽小青
一審一校：王 杰
二審二校：肖 然
三審三校：楊可瑕
來源：中國青年報
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
