曝光臺(tái)
“AI張文宏”帶貨：去偽存真不能只靠網(wǎng)友比拼眼力
2024/12/16 08:42 來(lái)源：羊城晚報(bào) 閱讀：1.1萬(wàn)
最近有網(wǎng)友向媒體發(fā)來(lái)一段視頻詢問(wèn)“張文宏是不是帶貨了,？”視頻中,，張文宏在賣一種蛋白棒，家里的老人信以為真，已經(jīng)下單,，還轉(zhuǎn)發(fā)了很多群,。記者核實(shí)發(fā)現(xiàn),，這個(gè)賬號(hào)在視頻中,，高仿“張文宏”反復(fù)介紹一種產(chǎn)品，口型是他的,，聲音也是他的,。可是從視頻來(lái)看,，盡管口型和聲音都模仿得惟妙惟肖,，可稍加甄別，不難發(fā)現(xiàn)AI偽造手法的拙劣,。所謂張醫(yī)生真人帶貨,，實(shí)為AI合成的深度偽造,。
網(wǎng)諺有云“宇宙的盡頭是帶貨”,，如今似乎還可為之加上后半句：“如果你不愿帶貨,，那么自有AI幫你帶貨?！弊詮腁I大爆發(fā)以來(lái),，各種場(chǎng)景化的落地運(yùn)用層出不窮。由此所帶來(lái)的,，除了“效率倍增”的震撼,，也有“以假亂真”“擦邊整活”的驚詫。前不久,，就有明星企業(yè)家遭AI合成“原聲”罵遍全網(wǎng),，一度激起軒然大波。而最近,，又有AI復(fù)刻張文宏公然直播間帶貨,，這波操作，膽子之大,、路子之野,，實(shí)在令人大開(kāi)眼界。
應(yīng)該說(shuō),，此次事件中的“高仿張文宏”,，尚屬于“精度一般”的低水平AI，稍加甄別就能看出端倪,?？删褪谴说取暗投薃I”，依舊蒙騙了不少人,。人們除了嘆息某些老年人“太好騙”,，還應(yīng)關(guān)注其背后的根本性問(wèn)題。那就是,，大眾習(xí)慣性的識(shí)別,、采信、認(rèn)知的經(jīng)驗(yàn)?zāi)Ｐ?，已?jīng)嚴(yán)重滯后于可以“生成一切”的信息生產(chǎn)模型——這里所謂的“信息”,，既是指圖文、視頻等內(nèi)容信息,，在某種程度上,，也指諸如人臉、聲音等生物信息,。
生物信息,，理論上是獨(dú)一無(wú)二,、無(wú)法仿冒的，通過(guò)專業(yè)技術(shù)手段,，那些合成的“人臉”“人聲”大致都會(huì)現(xiàn)出原形,。但并非所有人都有這種“技術(shù)手段”和“火眼金睛”。如果說(shuō),，粗糲的 “AI張文宏”更多只是讓一些老年人中招,。那么，如果是更逼真,、更高水平的AI人物呢,？面對(duì)“AI人”，去偽存真,，不能純靠個(gè)體的眼力比拼,。網(wǎng)友擦亮眼睛、提高警惕固然是一方面,，而更重要的,，顯然還要在生產(chǎn)端、渠道端發(fā)力設(shè)防,、前置過(guò)濾,。
“AI張文宏”直播帶貨一事，有兩個(gè)值得關(guān)注的細(xì)節(jié),。一,，其并沒(méi)有進(jìn)行明確的“身份主張”，關(guān)于自己是或不是“張文宏”不置可否,；二,，只在午夜場(chǎng)露面，“晝伏夜出”反監(jiān)測(cè)意識(shí)極強(qiáng),。這其實(shí)也說(shuō)明,，平臺(tái)對(duì)于AI亂象的治理機(jī)制，還是產(chǎn)生了一定的威懾作用,。AI狂飆,、來(lái)勢(shì)洶洶，可以預(yù)見(jiàn),，其被“用在歧途”的場(chǎng)合,，只會(huì)越來(lái)越多。有鑒于此,，相關(guān)的防風(fēng)險(xiǎn)模塊設(shè)計(jì),，還應(yīng)該再細(xì)化、再加速,，要留出安全余量,，盡可能地有備無(wú)患,。