中國網評
“國慶上網被雷軍罵7天”,，只是玩?？駳g嗎
2024/10/11 14:24 來源：光明網 閱讀：1.2萬
“國慶上網,，被雷軍整整罵了7天,。”連日來,，短視頻平臺上出現了大量“雷軍”的發(fā)言視頻,，涉及堵車、調休、游戲等熱門話題,，不僅言辭犀利還常爆粗口,。有網友跑去雷軍社交媒體賬號下就此提出疑問，雷軍回復以三個表示憤怒的表情,。眼下,，各種AI克隆雷軍的配音模仿、惡搞視頻仍層出不窮,。
從相關視頻來看，“雷軍”本人出鏡,，口音似乎也是本人,。有的網友不以為意，認為這不過是最常見的“惡搞”“玩?！?，還有的網友則半信半疑，更有“數字化生存”經驗欠缺者對此深信不疑,?！袄总夾I配音”乍看是一場娛樂狂歡，但潛藏的危險不能不引起我們的警惕,。
從彼雷軍到此雷軍,，使用“AI配音”就可以實現一鍵直達。近年來,，通過AI實現的聲音和畫面深度偽造的技術門檻不斷降低,，為這種“一鍵變聲”“一鍵變臉”大肆泛濫提供了可能。目前,，市面上已有大量的AI配音小程序,，用戶只需在程序內選擇相應的人物聲音并輸入文字，便可借用他人的聲音發(fā)表言論,。有的軟件免費向用戶開放部分使用權限,，收費版也價格較低。
深度偽造作為一種技術,，是中性的,。但是，在深度偽造技術之下,，我們可能無法區(qū)別真假,，過去崇尚的“眼見為實”受到沖擊，只能信以為真,。而真?zhèn)坞y辨的混沌地帶,，也將成為滋生各種亂象的溫床。在AI詐騙中，犯罪分子憑借一段原始語音,、照片等就可以編造謠言甚至陷阱,，早已是屢見不鮮的套路。
《2024人工智能安全報告》顯示,，2023年基于AI的深度偽造欺詐增長了3000%,，僅今年上半年，AI詐騙案案值已超過1.85億元,。就目前而言,，面對深度偽造技術，我們普通人僅有的生存經驗完全無法招架,，每個人都很有可能成為“受害者”,。
當制作者還沉浸在自己制作的AI配音視頻大獲流量的時候，殊不知已涉嫌侵權,。沒錯,，聲音作為個人特征的一部分，受到法律明確保護,。民法典規(guī)定,，任何組織或個人未經聲音權人同意，不得擅自使用,、公開或侵害其聲音權益,。在一些AI配音小程序中，一些內置的名人聲音,，多用“你懂的”式昵稱來命名而非真名,，可能也是處于規(guī)避侵權糾紛的考慮。不過,，這也暴露出,，這種侵權式“AI配音”屬明知故犯。
當深度偽造嵌入我們的數字生活,，該怎么辦,？這并非無病呻吟強說愁。一方面,，要用魔法打敗魔法,，推動反深偽檢測技術持續(xù)更新迭代，以應對層出不窮的深度偽造騙局,；另一方面,，要加強技術監(jiān)管，明確生成式人工智能服務合法與非法的邊界,，對相關違法行為進行嚴肅懲處,，以“前車之鑒”構筑其參照坐標,。各個社交平臺也應負起相應的治理責任，增強對疑似AI生成內容的甄別,，通過加水印或增加提示等手段,，提醒觀看者引起注意。