中國網(wǎng)評
治理利用AI造謠,，不妨“用AI對抗AI”
2024/07/25 10:30 來源：新華每日電訊 閱讀：1.1萬
??近期,，多地公安機(jī)關(guān)公布多起利用AI工具實(shí)施造謠的相關(guān)案件。6月20日,，上海市公安局城市軌道和公交總隊(duì)發(fā)布警情通報：有營銷人員為博取關(guān)注,，使用AI軟件生成“上海地鐵行兇”虛假視頻在網(wǎng)上發(fā)布,，造成惡劣社會影響,。此外，“西安突發(fā)爆炸”“濟(jì)南一高層住宅樓起火，多人跳樓逃生”等聳人聽聞又廣泛傳播的“新聞”,，均被查實(shí)是AI軟件炮制的謠言,。造謠的動機(jī)主要是獲取互聯(lián)網(wǎng)內(nèi)容平臺給予創(chuàng)作者的點(diǎn)擊量、閱讀量獎勵,，以及為電商平臺經(jīng)營引流等,。說到底，還是為了錢,。
??在不斷迭代的生成式AI技術(shù)面前,，“眼見為實(shí)”“有圖有真相”正在被挑戰(zhàn)。從相關(guān)案件看,，不法分子利用最新AI技術(shù)生產(chǎn)的謠言,，足可“以假亂真”，迷惑性極強(qiáng),。人工智能還能根據(jù)傳播渠道特征,，實(shí)施個性化的謠言生成，并面向特定受眾快速,、精準(zhǔn)投放,，由此造成針對個人或特定群體的誹謗中傷、信息泄露,、危害人身安全等事件時有發(fā)生,。
??對網(wǎng)絡(luò)謠言治理來說，更大的挑戰(zhàn)在于便利的AI工具大大降低了造謠成本,，提升了謠言的數(shù)量級和傳播力,，造謠呈現(xiàn)出門檻低、批量化,、識別難的特點(diǎn),。檢索互聯(lián)網(wǎng)，諸如“圖文創(chuàng)作,，AI自動寫文章,，單號輕松日產(chǎn)500+，可多號操作,，小白輕松上手”“無需洗稿,，AI一天100篇原創(chuàng)”之類的廣告文章層出不窮，吸引別有用心者參與其中,，也催生了灰色產(chǎn)業(yè)鏈加速形成,。與此同時，為了核實(shí)真假難辨的信息,，相關(guān)機(jī)構(gòu)和個人不得不投入人力物力,，消耗大量社會成本,；一些謠言不僅給受害方造成精神傷害，也對社會經(jīng)濟(jì)運(yùn)行帶來不小損失,。以上種種,，使我們必須高度重視AI技術(shù)的“雙刃劍”特征，采取堅(jiān)決行動,，保持高壓態(tài)勢,，最大程度地遏制不法行為。
??要以更有力的手段去病除害,。一些互聯(lián)網(wǎng)內(nèi)容平臺奉行“流量至上”,，放任假新聞、“標(biāo)題黨”,、爭議性話題傳播,，為AI謠言的大行其道提供了不良土壤。應(yīng)該清醒看到,，虛假信息傳播帶來的流量不可能長久,，天下也絕不會有無本萬利的生意。平臺應(yīng)首先壓實(shí)主體責(zé)任,，對包括AI造謠在內(nèi)的虛假信息傳播迅速識別并切斷其傳播鏈,、利益鏈，進(jìn)一步優(yōu)化涉及AI內(nèi)容的流量分發(fā)和收益分成機(jī)制,，壓縮別有用心者生產(chǎn)謠言的牟利空間,。有關(guān)部門也要依法亮劍，猛藥去疴,，嚴(yán)厲打擊制造虛假新聞的個人和機(jī)構(gòu),，在網(wǎng)絡(luò)空間架起禁止AI造謠的高壓線。
??要以更快捷的方式“跑贏”謠言,。面對AI謠言的精準(zhǔn)化傳播,、智能化擴(kuò)散，不妨探索“用AI對抗AI”,。近年來,，部分互聯(lián)網(wǎng)內(nèi)容平臺已建立辟謠機(jī)制，相關(guān)部門也協(xié)同聯(lián)動,，快速發(fā)布調(diào)查和處置結(jié)果,，回應(yīng)社會關(guān)切。未來還應(yīng)對算法推薦,、日常監(jiān)測,、線索收集等技術(shù)和機(jī)制進(jìn)一步優(yōu)化提升，從而更迅速,、精準(zhǔn)地推送辟謠信息,，使更多真實(shí),、有價值的信息“跑”在謠言之前。
??要健全法治引領(lǐng)技術(shù)向善,。如何讓人工智能循著以人為本和技術(shù)向善的方向發(fā)展,，監(jiān)管之外離不開法治的保障,。目前,，我國已頒布實(shí)施《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)法律，但針對AI領(lǐng)域的司法治理仍有進(jìn)一步細(xì)化空間,。只有通過立法為AI開發(fā)和使用劃定基本底線,，明確各方權(quán)責(zé)，才能從源頭防范風(fēng)險,，避免“先污染后治理”的被動局面,。