法治
你被AI生成的假新聞騙過嗎,？起底AI造謠亂象
2024/11/20 11:24 來源：央廣網(wǎng) 閱讀：1.3萬
近年來,，人工智能(AI)技術發(fā)展迅速，成為全球科技領域的熱點,。AI已經(jīng)從單純的學術研究發(fā)展成為改變人類生活方式的重要力量,。然而,，卻有一些別有用心之人將其變?yōu)樵熘{、斂財?shù)墓ぞ摺?/span>
今年6月,，一條“廣東省五華縣華陽鎮(zhèn)一70多歲老人被毆打致昏迷,，其孫子為此跳河自殺，打人者一審被判九年十個月”的短視頻在互聯(lián)網(wǎng)平臺傳播,，引發(fā)大量網(wǎng)民關注,、討論。經(jīng)公安網(wǎng)安部門開展調查發(fā)現(xiàn),，該視頻的圖文內容系移花接木,、肆意編造的網(wǎng)絡謠言。據(jù)造謠人員任某供述,，這段長達幾分鐘,、聲色并茂的視頻全是由AI合成的。目前,，公安機關已依法對任某追究法律責任,。
此事件并非個案，隨著AI技術應用越來越普遍,，一些網(wǎng)民為博眼球,、蹭熱度，將AI技術用以編“偽消息”,、造“假新聞”,，以此來獲得網(wǎng)民關注和點贊量，進而實現(xiàn)流量變現(xiàn),。
專家表示,，AI造謠具有定制化、門檻低,、識別難,、破壞大等特點，亟須加強監(jiān)管,。同時,，可以通過設置AI生成內容提示標識、嚴格落實網(wǎng)絡實名制等技術手段進行治理,。
AI造謠門檻低,、危害大
今年8月，一則“福建南平松溪縣遭遇嚴重大風襲擊,，造成棗嶺街一人死亡”的消息在網(wǎng)絡上迅速傳播,。這則消息圖文并茂，甚至還有逼真的視頻片段,，一時間引得大量網(wǎng)民關注和轉發(fā),。但經(jīng)公安機關核查發(fā)現(xiàn),，這竟然是用AI編造而成的網(wǎng)絡謠言視頻。
“當前AI網(wǎng)絡謠言具有仿真性和規(guī)模性的特征,。根據(jù)輸入指令的不同,，AI在短期內能夠批量生成大量內容不同的網(wǎng)絡謠言，而且生成的網(wǎng)絡謠言信息內容更加貼合人類表達方式,，并結合深度偽造技術生成圖片,、視頻、錄音,，使得社會公眾越發(fā)難以辨識網(wǎng)絡信息的真?zhèn)涡?。”北京航空航天大學法學院副教授趙精武告訴記者,。
記者隨機用“AI文案速成”小程序測試,，在對話框內輸入“火災”這一主題有關的內容創(chuàng)作指令，便生成了一篇新聞報道,，甚至包括現(xiàn)場救援細節(jié),，及消防安全提示，讓人真假難辨,。趙精武指出,，AI網(wǎng)絡謠言的危害性主要表現(xiàn)為擾亂社會公共秩序，削弱政府公信力,、誘發(fā)電信網(wǎng)絡詐騙等,。
為牟取非法利益造假
涉嫌構成多種罪名
趙精武分析,，個人或組織利用AI技術造謠背后的動機是復雜多樣的,，既包括部分網(wǎng)民為了尋求存在感、刺激感,，故意編造AI網(wǎng)絡謠言,，也包括犯罪分子為了牟取非法利益，編造AI網(wǎng)絡謠言,，以便順利實施電信網(wǎng)絡詐騙等犯罪活動,。
今年6月中旬，一家MCN機構的實際控制人王某某因利用AI軟件生成虛假新聞并大肆傳播,，擾亂公共秩序,，被警方行政拘留。據(jù)警方通報,，王某某共經(jīng)營5家MCN機構,，運營賬號842個，自今年1月以來,，王某某通過AI軟件生成虛假新聞,，最高峰一天能生成4000至7000篇,。
近日，浙江溫州蒼南公安成功打掉一個編傳舊案謠言的MCN機構“網(wǎng)絡水軍”團伙,。進一步偵查發(fā)現(xiàn),，相關賬號和視頻由某網(wǎng)絡科技有限公司(實為以MCN模式運營的“網(wǎng)絡水軍”團伙)使用發(fā)布，該MCN“網(wǎng)絡水軍”團伙搜集全網(wǎng)敏感熱點,，隨意設置虛假劇情,，利用AI軟件根據(jù)劇情自動生成多處關鍵情節(jié)虛假的文案，安排真人出鏡解說,，拼接網(wǎng)絡中誤導性素材后剪輯成所謂“原創(chuàng)”視頻,。該團伙明知上述視頻充斥大量虛假、挑動群眾情緒類信息,，為博取流量,、不法牟利，在多個平臺公開發(fā)布,，后造成虛假視頻信息被大量瀏覽,、傳播，從而牟取非法流量返利,。
中國人民大學刑法學博士,、北京市京師律師事務所實習律師黃福濤告訴記者，編造虛假的險情,、疫情,、災情、警情,，在信息網(wǎng)絡或者其他媒體上傳播,，或者明知是上述虛假信息，故意在信息網(wǎng)絡或者其他媒體上傳播,，嚴重擾亂社會秩序的,，處三年以下有期徒刑、拘役或者管制,；造成嚴重后果的,，處三年以上七年以下有期徒刑。如果行為人不僅制作,、傳播虛假信息,，而且目的是騙取互聯(lián)網(wǎng)平臺上不特定多數(shù)人的財產(chǎn)，則涉嫌詐騙罪,。
如何治理和防范AI網(wǎng)絡謠言的產(chǎn)生,？
為治理AI亂象，深化網(wǎng)絡生態(tài)治理,，近年來相關部門出臺了多項政策和措施,。
2023年1月10日起施行的《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》指出,，任何組織和個人不得利用深度合成服務制作、復制,、發(fā)布,、傳播法律、行政法規(guī)禁止的信息,，不得利用深度合成服務從事危害國家安全和利益,、損害國家形象、侵害社會公共利益,、擾亂經(jīng)濟和社會秩序,、侵犯他人合法權益等法律、行政法規(guī)禁止的活動,。
2023年8月15日起施行的《生成式人工智能服務管理暫行辦法》規(guī)定,，提供和使用生成式人工智能服務，應當遵守法律,、行政法規(guī),，尊重社會公德和倫理道德。不得生成煽動顛覆國家政權,、推翻社會主義制度,，危害國家安全和利益、損害國家形象,，煽動分裂國家,、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚恐怖主義,、極端主義,，宣揚民族仇恨、民族歧視,，暴力,、淫穢色情,，以及虛假有害信息等法律,、行政法規(guī)禁止的內容。
“加強AI領域的司法治理,，需要立足于‘安全與發(fā)展并重’和‘分級分類監(jiān)管’的基本原則,，針對諸如生成網(wǎng)絡謠言等技術濫用現(xiàn)象，既需要在事前階段明確研發(fā)者,、服務提供者以及網(wǎng)絡平臺的主體責任,，還需要在事后階段嚴格追究違法行為人的刑事責任、行政責任,?！壁w精武強調,。
同時，他表示,，也可通過技術手段進行治理,，譬如設置敏感關鍵詞，禁止生成顯著違法的信息內容,；嚴格落實網(wǎng)絡實名制,，并配合水印技術，實現(xiàn)對生成內容的有效溯源,；或者平臺設置AI生成內容提示標識等,。