字節(jié)Seedance 2.0刷屏后，緊急禁用真人素材，該視頻博主們慌了？

近日，字節(jié)跳動上線Seedance 2.0視頻生成模型，進行內(nèi)測，引發(fā)行業(yè)熱議。

該模型支持文字、圖片、視頻、音頻等各類素材輸入生成視頻，在自運鏡和分運鏡、全方位多模態(tài)思考、音畫同步生成、多鏡頭敘事能力等幾個關(guān)鍵能力上實現(xiàn)突破。

先看看效果：

有網(wǎng)友認為，看了Seedance 2.0的生成視頻效果后，很快普通人就分不清AI生成視頻了。

有網(wǎng)友直言，眼已瞎，AI視頻已進入分辨不出的時代。

《黑神話悟空》制作人馮驥也發(fā)文對Seedance 2.0大加贊賞：“昨天試了試剛上線即夢的Seedance 2.0。它在使用手冊標題的最后，寫著Kill the game!（殺死比賽）。這個評價，相當客觀。AIGC的童年時代，結(jié)束了。”

他用領(lǐng)先、全能、低門檻、產(chǎn)能爆炸、視頻全民化等詞描述自己的使用感受。

他同時也表達了對假視頻泛濫與信任危機的擔憂。因為逼真的假視頻將變得毫無門檻，而現(xiàn)有的知識產(chǎn)權(quán)與審查體系會面臨空前沖擊。

他鄭重建議：請大家盡快提醒父母與不熟悉AI的親友，未來一切缺乏官方權(quán)威渠道背書的視頻內(nèi)容（尤其是包含個人形象與聲音的）都可能是偽造的。請務(wù)必通過多渠道交叉確認，避免上當。

除了對假視頻的擔心，隱私問題也浮出水面。

知名科技博主Tim（本名潘天鴻）在評測過程中發(fā)現(xiàn)，僅提供了自己的照片、未提供聲音或視頻等素材的前提下，Seedance2.0能夠生成帶有Tim個人音色的聲音。

更讓Tim感到驚訝的是，他只上傳了辦公樓的一面，但視頻卻能生成與現(xiàn)實幾乎一樣的樓的另一面。

“這不恐怖嗎？它知道我背后的東西是什么。”

Tim認為，Seedance 2.0大量訓(xùn)練了他公司的視頻，而他沒有被聯(lián)系過授權(quán)。

Tim又用何同學(xué)的照片生成視頻，但這次的聲音不是何同學(xué)，還是Tim的聲音。

Tim認為如果一個人的數(shù)據(jù)全部進入了AI數(shù)據(jù)集，它能夠100%的模擬出這個人任何的形態(tài)和聲音，“這樣的內(nèi)容，你的家人能分得出真假嗎？”

隨著真假視頻、隱私問題的討論，即夢方面今天緊急暫停了真人素材作為主體參考。

即夢的運營人員表示：“即夢創(chuàng)作者們大家好，Seedance 2.0在內(nèi)測期間收獲了遠超預(yù)期的關(guān)注，感謝大家的使用與反饋。為了保障創(chuàng)作環(huán)境的健康可持續(xù)，我們正在針對反饋進行緊急優(yōu)化，目前暫不支持輸入真人素材作為主體參考。我們深知創(chuàng)意的邊界是尊重。產(chǎn)品調(diào)整期間給各位帶來的不便，敬請諒解，期待以更完善的面貌與大家正式見面。”

什么叫真人素材參考？看即夢App這張使用圖就明白了。

就是在即夢生成視頻操作中，你可以上傳一張真人照片作為生成時的參考，其實就是真人作為視頻里的主體。

而現(xiàn)在即夢不讓上傳真人照片用來生成視頻了。

這次事件暴露出AI視頻幾大問題：

真假難辨導(dǎo)致的信任危機。普通人肉眼無法區(qū)分AI生成與實拍，造謠、詐騙、仿冒親友、偽造輿論視頻的成本趨近于零，現(xiàn)有法律、審核、溯源體系可能跟不上。

視覺證據(jù)不再天然可信，人類進入 “后真相視頻時代”。

隱私與數(shù)據(jù)授權(quán)，成為灰色地帶。Tim的實測暴露了最尖銳的問題，用戶未授權(quán)、未知情，數(shù)據(jù)卻已被學(xué)習。

這觸及了全球AIGC最敏感的紅線，模型到底用了誰的數(shù)據(jù)？有沒有授權(quán)？

技術(shù)的權(quán)衡發(fā)展問題。好在這次僅是內(nèi)測，范圍較小，通過內(nèi)測反映出問題，可控可治。但也不能一刀切，技術(shù)領(lǐng)先不易，應(yīng)該保護，也應(yīng)該在安全的渠道內(nèi)發(fā)展。

不是關(guān)閉功能，是先把 “最危險口子” 堵上，先把最容易用于偽造、詐騙、侵權(quán)的功能關(guān)掉，保留技術(shù)探索空間。

AI時代的全民信息素養(yǎng)問題。馮驥的預(yù)警非常重要，必須盡快普及AI知識，提升公眾對虛假信息的辨別能力，建立“多渠道交叉驗證”等新的安全習慣。

Seedance 2.0內(nèi)測爆火與緊急暫停真人功能，是AIGC從炫技階段正式進入安全與合規(guī)并重階段的標志性事件。

最后我想到的是，那些每天出鏡的視頻博主們，是不是最容易被Deepfake（深度偽造）？有沒有打一激靈？