法治
你被AI生成的假新聞騙過(guò)嗎,？起底AI造謠亂象
2024/11/20 11:24 來(lái)源：央廣網(wǎng) 閱讀：1萬(wàn)
近年來(lái),，人工智能(AI)技術(shù)發(fā)展迅速,，成為全球科技領(lǐng)域的熱點(diǎn),。AI已經(jīng)從單純的學(xué)術(shù)研究發(fā)展成為改變?nèi)祟?lèi)生活方式的重要力量,。然而,，卻有一些別有用心之人將其變?yōu)樵熘{,、斂財(cái)?shù)墓ぞ摺?/span>
今年6月,，一條“廣東省五華縣華陽(yáng)鎮(zhèn)一70多歲老人被毆打致昏迷,，其孫子為此跳河自殺,，打人者一審被判九年十個(gè)月”的短視頻在互聯(lián)網(wǎng)平臺(tái)傳播，引發(fā)大量網(wǎng)民關(guān)注,、討論,。經(jīng)公安網(wǎng)安部門(mén)開(kāi)展調(diào)查發(fā)現(xiàn)，該視頻的圖文內(nèi)容系移花接木,、肆意編造的網(wǎng)絡(luò)謠言,。據(jù)造謠人員任某供述，這段長(zhǎng)達(dá)幾分鐘,、聲色并茂的視頻全是由AI合成的,。目前，公安機(jī)關(guān)已依法對(duì)任某追究法律責(zé)任,。
此事件并非個(gè)案,，隨著AI技術(shù)應(yīng)用越來(lái)越普遍，一些網(wǎng)民為博眼球、蹭熱度,，將AI技術(shù)用以編“偽消息”,、造“假新聞”，以此來(lái)獲得網(wǎng)民關(guān)注和點(diǎn)贊量,，進(jìn)而實(shí)現(xiàn)流量變現(xiàn),。
專(zhuān)家表示，AI造謠具有定制化,、門(mén)檻低,、識(shí)別難、破壞大等特點(diǎn),，亟須加強(qiáng)監(jiān)管,。同時(shí)，可以通過(guò)設(shè)置AI生成內(nèi)容提示標(biāo)識(shí),、嚴(yán)格落實(shí)網(wǎng)絡(luò)實(shí)名制等技術(shù)手段進(jìn)行治理,。
AI造謠門(mén)檻低、危害大
今年8月,，一則“福建南平松溪縣遭遇嚴(yán)重大風(fēng)襲擊,，造成棗嶺街一人死亡”的消息在網(wǎng)絡(luò)上迅速傳播。這則消息圖文并茂,，甚至還有逼真的視頻片段,，一時(shí)間引得大量網(wǎng)民關(guān)注和轉(zhuǎn)發(fā)。但經(jīng)公安機(jī)關(guān)核查發(fā)現(xiàn),，這竟然是用AI編造而成的網(wǎng)絡(luò)謠言視頻,。
“當(dāng)前AI網(wǎng)絡(luò)謠言具有仿真性和規(guī)模性的特征,。根據(jù)輸入指令的不同,，AI在短期內(nèi)能夠批量生成大量?jī)?nèi)容不同的網(wǎng)絡(luò)謠言，而且生成的網(wǎng)絡(luò)謠言信息內(nèi)容更加貼合人類(lèi)表達(dá)方式,，并結(jié)合深度偽造技術(shù)生成圖片,、視頻、錄音,，使得社會(huì)公眾越發(fā)難以辨識(shí)網(wǎng)絡(luò)信息的真?zhèn)涡?。”北京航空航天大學(xué)法學(xué)院副教授趙精武告訴記者,。
記者隨機(jī)用“AI文案速成”小程序測(cè)試,，在對(duì)話框內(nèi)輸入“火災(zāi)”這一主題有關(guān)的內(nèi)容創(chuàng)作指令，便生成了一篇新聞報(bào)道,，甚至包括現(xiàn)場(chǎng)救援細(xì)節(jié),，及消防安全提示，讓人真假難辨,。趙精武指出,，AI網(wǎng)絡(luò)謠言的危害性主要表現(xiàn)為擾亂社會(huì)公共秩序,，削弱政府公信力、誘發(fā)電信網(wǎng)絡(luò)詐騙等,。
為牟取非法利益造假
涉嫌構(gòu)成多種罪名
趙精武分析,，個(gè)人或組織利用AI技術(shù)造謠背后的動(dòng)機(jī)是復(fù)雜多樣的，既包括部分網(wǎng)民為了尋求存在感,、刺激感,，故意編造AI網(wǎng)絡(luò)謠言，也包括犯罪分子為了牟取非法利益,，編造AI網(wǎng)絡(luò)謠言,，以便順利實(shí)施電信網(wǎng)絡(luò)詐騙等犯罪活動(dòng)。
今年6月中旬,，一家MCN機(jī)構(gòu)的實(shí)際控制人王某某因利用AI軟件生成虛假新聞并大肆傳播,，擾亂公共秩序，被警方行政拘留,。據(jù)警方通報(bào),，王某某共經(jīng)營(yíng)5家MCN機(jī)構(gòu)，運(yùn)營(yíng)賬號(hào)842個(gè),，自今年1月以來(lái),，王某某通過(guò)AI軟件生成虛假新聞，最高峰一天能生成4000至7000篇,。
近日,，浙江溫州蒼南公安成功打掉一個(gè)編傳舊案謠言的MCN機(jī)構(gòu)“網(wǎng)絡(luò)水軍”團(tuán)伙。進(jìn)一步偵查發(fā)現(xiàn),，相關(guān)賬號(hào)和視頻由某網(wǎng)絡(luò)科技有限公司(實(shí)為以MCN模式運(yùn)營(yíng)的“網(wǎng)絡(luò)水軍”團(tuán)伙)使用發(fā)布,，該MCN“網(wǎng)絡(luò)水軍”團(tuán)伙搜集全網(wǎng)敏感熱點(diǎn)，隨意設(shè)置虛假劇情,，利用AI軟件根據(jù)劇情自動(dòng)生成多處關(guān)鍵情節(jié)虛假的文案,，安排真人出鏡解說(shuō)，拼接網(wǎng)絡(luò)中誤導(dǎo)性素材后剪輯成所謂“原創(chuàng)”視頻,。該團(tuán)伙明知上述視頻充斥大量虛假,、挑動(dòng)群眾情緒類(lèi)信息，為博取流量,、不法牟利,，在多個(gè)平臺(tái)公開(kāi)發(fā)布，后造成虛假視頻信息被大量瀏覽,、傳播,，從而牟取非法流量返利。
中國(guó)人民大學(xué)刑法學(xué)博士、北京市京師律師事務(wù)所實(shí)習(xí)律師黃福濤告訴記者,，編造虛假的險(xiǎn)情,、疫情、災(zāi)情,、警情,，在信息網(wǎng)絡(luò)或者其他媒體上傳播，或者明知是上述虛假信息,，故意在信息網(wǎng)絡(luò)或者其他媒體上傳播,，嚴(yán)重?cái)_亂社會(huì)秩序的，處三年以下有期徒刑,、拘役或者管制,；造成嚴(yán)重后果的，處三年以上七年以下有期徒刑,。如果行為人不僅制作,、傳播虛假信息，而且目的是騙取互聯(lián)網(wǎng)平臺(tái)上不特定多數(shù)人的財(cái)產(chǎn),，則涉嫌詐騙罪,。
如何治理和防范AI網(wǎng)絡(luò)謠言的產(chǎn)生？
為治理AI亂象,，深化網(wǎng)絡(luò)生態(tài)治理,，近年來(lái)相關(guān)部門(mén)出臺(tái)了多項(xiàng)政策和措施。
2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》指出,，任何組織和個(gè)人不得利用深度合成服務(wù)制作,、復(fù)制、發(fā)布,、傳播法律,、行政法規(guī)禁止的信息，不得利用深度合成服務(wù)從事危害國(guó)家安全和利益,、損害國(guó)家形象,、侵害社會(huì)公共利益,、擾亂經(jīng)濟(jì)和社會(huì)秩序,、侵犯他人合法權(quán)益等法律、行政法規(guī)禁止的活動(dòng),。
2023年8月15日起施行的《生成式人工智能服務(wù)管理暫行辦法》規(guī)定,，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律,、行政法規(guī),，尊重社會(huì)公德和倫理道德。不得生成煽動(dòng)顛覆國(guó)家政權(quán)、推翻社會(huì)主義制度,，危害國(guó)家安全和利益,、損害國(guó)家形象，煽動(dòng)分裂國(guó)家,、破壞國(guó)家統(tǒng)一和社會(huì)穩(wěn)定,，宣揚(yáng)恐怖主義、極端主義,，宣揚(yáng)民族仇恨,、民族歧視，暴力,、淫穢色情,，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容,。
“加強(qiáng)AI領(lǐng)域的司法治理,，需要立足于‘安全與發(fā)展并重’和‘分級(jí)分類(lèi)監(jiān)管’的基本原則，針對(duì)諸如生成網(wǎng)絡(luò)謠言等技術(shù)濫用現(xiàn)象,，既需要在事前階段明確研發(fā)者,、服務(wù)提供者以及網(wǎng)絡(luò)平臺(tái)的主體責(zé)任，還需要在事后階段嚴(yán)格追究違法行為人的刑事責(zé)任,、行政責(zé)任,。”趙精武強(qiáng)調(diào),。
同時(shí),，他表示，也可通過(guò)技術(shù)手段進(jìn)行治理,，譬如設(shè)置敏感關(guān)鍵詞,，禁止生成顯著違法的信息內(nèi)容；嚴(yán)格落實(shí)網(wǎng)絡(luò)實(shí)名制,，并配合水印技術(shù),，實(shí)現(xiàn)對(duì)生成內(nèi)容的有效溯源；或者平臺(tái)設(shè)置AI生成內(nèi)容提示標(biāo)識(shí)等,。