“被嚇到！”AI生圖已經(jīng)這么逼真了？網(wǎng)友：以后還能信嗎？

近日

社交平臺(tái)被一組圖片刷屏了：

千禧年間的小學(xué)生在小賣鋪買零食

一張印刷完好的數(shù)學(xué)試卷

馬斯克在直播間賣瑜伽褲......

你能看出哪張是AI生成的嗎？

答案是——

全部

4月22日，美國(guó)人工智能公司OpenAI對(duì)外正式推出ChatGPT Images 2.0模型，這是其ChatGPT平臺(tái)內(nèi)圖像生成功能的最新一次升級(jí)。

由于其生成的圖片真假難辨，相關(guān)話題迅速?zèng)_上熱搜，引發(fā)網(wǎng)友熱議。

模型發(fā)布后，一些用GPT-Image-2生成的AI假圖已經(jīng)開始在網(wǎng)絡(luò)上傳播。比如，“Tim Cook加入小米汽車”的“官宣圖”，粗看分辨不出AI的痕跡。隨后，小米發(fā)文辟謠。

網(wǎng)傳圖片

據(jù)了解，生成的圖片之所以真假難辨，是因?yàn)樵摯竽Ｐ徒鉀Q了以往AI細(xì)節(jié)粗糙、文字亂碼扭曲的問(wèn)題。

有網(wǎng)友測(cè)試用該模型生成全篇《出師表》，內(nèi)容工整規(guī)范，幾乎零錯(cuò)漏。

不過(guò)，也有眼尖的網(wǎng)友在其它圖片中發(fā)現(xiàn)，生圖過(guò)程中會(huì)偶爾出現(xiàn)少量文字差錯(cuò)。

另?yè)?jù)澎湃新聞，記者實(shí)測(cè)后發(fā)現(xiàn)，GPT-Image-2還存在嚴(yán)重的安全漏洞。記者將個(gè)人身份證上傳到ChatGPT后，要求把身份證中的人臉換成庫(kù)克。Image-2不僅改變了人臉，還替換了人名和出生年月日信息，并同步替換了身份證號(hào)碼中的出生年月日信息。

圖源：澎湃新聞

該模型不僅無(wú)法識(shí)別個(gè)人敏感信息，而且也沒(méi)有阻攔用戶進(jìn)行修改、偽造證件的提示詞。

此外，GPT-Image-2的所有直出圖均沒(méi)有標(biāo)注“AI生成”的水印或提示，進(jìn)一步加大了核實(shí)和甄別的難度。

面對(duì)該大模型生成的圖片，不少網(wǎng)友感嘆，第一反應(yīng)是 “被嚇到了”。

還有網(wǎng)友實(shí)測(cè)，只需簡(jiǎn)單輸入一句話，就能一鍵生成精美的商業(yè)設(shè)計(jì)圖，擔(dān)心“設(shè)計(jì)師是不是要失業(yè)了”。

許多網(wǎng)友擔(dān)憂，未來(lái)圖片真假將更難分辨。按照國(guó)家相關(guān)規(guī)定，AI生成內(nèi)容應(yīng)強(qiáng)制標(biāo)注，而面對(duì)不斷升級(jí)的海外AI工具，大家也呼吁加快完善AI領(lǐng)域的法律法規(guī)，進(jìn)一步加強(qiáng)監(jiān)管。

更有網(wǎng)友直言，有圖有真相的時(shí)代，已經(jīng)過(guò)去了?！耙院蠖家獑?wèn)一句，這是真的嗎？”

對(duì)此，你怎么看？

來(lái)源：中國(guó)青年報(bào)（ID：zqbcyol 整理：樊星）、澎湃新聞、網(wǎng)友評(píng)論等