中國網(wǎng)評
警惕AI換臉擬聲新騙局
2024/08/07 16:25 來源：寧夏日報 閱讀：1.1萬
隨著AI技術(shù)迅猛發(fā)展,，生成式AI換臉擬聲技術(shù)的使用場景不斷涌現(xiàn),，但由此衍生出的新騙局也給個人信息安全及財產(chǎn)安全帶來風(fēng)險,。8月5日,，寧夏通信管理局向公眾發(fā)出提醒,，和“熟悉”的陌生人視頻聊天一定要注意識別并加以防范,，警惕不法分子利用AI換臉擬聲技術(shù)實施詐騙。
“今年上半年，我們對區(qū)內(nèi)90余款旅游咨詢,、金融貸款,、網(wǎng)絡(luò)社區(qū)等App和小程序進(jìn)行了個人信息保護(hù)及網(wǎng)絡(luò)安全風(fēng)險評測，督促整改問題App和小程序69款,，下架7款,。”寧夏通信管理局相關(guān)負(fù)責(zé)人介紹,，今年5月,，彭陽縣居民小龍（化名）遭遇網(wǎng)絡(luò)視頻詐騙，損失1.5萬元,。不法分子以撥打騷擾電話的方式或從用戶發(fā)布在互聯(lián)網(wǎng)社交平臺的視頻及照片資源中,，獲取用戶聲音和人臉生物信息，提取用戶聲紋及面部圖像特征,，使用專業(yè)工具進(jìn)行聲音及圖像合成和相似度訓(xùn)練,，利用AI技術(shù)篩選目標(biāo)人群，在視頻通話中利用AI技術(shù)換臉擬聲,，騙取目標(biāo)人群財物,。
“從詐騙方式和使用的技術(shù)手段上看，利用AI換臉擬聲技術(shù)詐騙應(yīng)是‘冒充熟人’詐騙的演變,，例如冒充老鄉(xiāng),，利用鄉(xiāng)黨情誼騙取錢財；冒充同學(xué)好友,，利用同窗和好友好面子,、不好意思等心理借錢等,?！睂幭耐ㄐ殴芾砭止ぷ魅藛T說。
那么,，如何防范和識別不法分子冒充熟人,，利用AI換臉擬聲技術(shù)進(jìn)行詐騙？寧夏通信管理局工作人員介紹,，當(dāng)遇到“熟悉的陌生人”的可疑視頻通話時,，可以要求對方做一些側(cè)臉轉(zhuǎn)向、面部遮擋,、捏鼻子等動作,，來辨識是否利用AI換臉的可能性。如該視頻通話中使用了AI換臉,，人臉面部就會出現(xiàn)扭曲和波動,。“當(dāng)遇到‘熟悉的陌生人’添加好友時要提高警惕，對涉及金錢,、財產(chǎn)等重要事項要謹(jǐn)慎,，未經(jīng)核實不隨意轉(zhuǎn)賬匯款；同時,，提高安全意識,，保護(hù)好個人信息，謹(jǐn)慎分享,，不輕易提供人臉,、指紋等個人生物信息給他人，不過度在互聯(lián)網(wǎng)上公開或分享動圖,?！睂幭耐ㄐ殴芾砭止ぷ魅藛T說。
據(jù)了解,，為保護(hù)用戶的合法權(quán)益,，規(guī)范移動應(yīng)用程序?qū)τ脩羧四樞畔⒌氖占褪褂茫瑢幭耐ㄐ殴芾砭纸M織技術(shù)力量常態(tài)化對區(qū)內(nèi)App開展隱私合規(guī)和應(yīng)用安全檢查,，督促App開發(fā)運(yùn)營單位深入學(xué)習(xí),、了解個人信息處理活動的相關(guān)法律法規(guī)、標(biāo)準(zhǔn)規(guī)范及合規(guī)手段,，通過數(shù)據(jù)分類分級,、加密處理、權(quán)限管控,、影響評估,、合規(guī)審計等方式不斷加強(qiáng)人臉信息的安全管理和保護(hù)措施，降低潛在風(fēng)險,，當(dāng)好個人信息安全的守門人,。（記者 張 濤）