中國網(wǎng)評
警惕AI換臉擬聲新騙局
2024/08/07 16:25 來源：寧夏日報 閱讀：1.3萬
隨著AI技術(shù)迅猛發(fā)展，生成式AI換臉擬聲技術(shù)的使用場景不斷涌現(xiàn),，但由此衍生出的新騙局也給個人信息安全及財產(chǎn)安全帶來風險,。8月5日，寧夏通信管理局向公眾發(fā)出提醒,，和“熟悉”的陌生人視頻聊天一定要注意識別并加以防范,，警惕不法分子利用AI換臉擬聲技術(shù)實施詐騙。
“今年上半年,，我們對區(qū)內(nèi)90余款旅游咨詢,、金融貸款、網(wǎng)絡(luò)社區(qū)等App和小程序進行了個人信息保護及網(wǎng)絡(luò)安全風險評測,，督促整改問題App和小程序69款,，下架7款?！睂幭耐ㄐ殴芾砭窒嚓P(guān)負責人介紹,，今年5月，彭陽縣居民小龍（化名）遭遇網(wǎng)絡(luò)視頻詐騙,，損失1.5萬元,。不法分子以撥打騷擾電話的方式或從用戶發(fā)布在互聯(lián)網(wǎng)社交平臺的視頻及照片資源中，獲取用戶聲音和人臉生物信息,，提取用戶聲紋及面部圖像特征,，使用專業(yè)工具進行聲音及圖像合成和相似度訓練，利用AI技術(shù)篩選目標人群,，在視頻通話中利用AI技術(shù)換臉擬聲,，騙取目標人群財物。
“從詐騙方式和使用的技術(shù)手段上看,，利用AI換臉擬聲技術(shù)詐騙應(yīng)是‘冒充熟人’詐騙的演變,，例如冒充老鄉(xiāng),，利用鄉(xiāng)黨情誼騙取錢財；冒充同學好友,，利用同窗和好友好面子,、不好意思等心理借錢等?！睂幭耐ㄐ殴芾砭止ぷ魅藛T說,。
那么，如何防范和識別不法分子冒充熟人,，利用AI換臉擬聲技術(shù)進行詐騙,？寧夏通信管理局工作人員介紹，當遇到“熟悉的陌生人”的可疑視頻通話時,，可以要求對方做一些側(cè)臉轉(zhuǎn)向,、面部遮擋、捏鼻子等動作,，來辨識是否利用AI換臉的可能性,。如該視頻通話中使用了AI換臉，人臉面部就會出現(xiàn)扭曲和波動,?！爱斢龅健煜さ哪吧恕砑雍糜褧r要提高警惕，對涉及金錢,、財產(chǎn)等重要事項要謹慎,，未經(jīng)核實不隨意轉(zhuǎn)賬匯款；同時,，提高安全意識,，保護好個人信息，謹慎分享,，不輕易提供人臉,、指紋等個人生物信息給他人,，不過度在互聯(lián)網(wǎng)上公開或分享動圖,。”寧夏通信管理局工作人員說,。
據(jù)了解,，為保護用戶的合法權(quán)益，規(guī)范移動應(yīng)用程序?qū)τ脩羧四樞畔⒌氖占褪褂?，寧夏通信管理局組織技術(shù)力量常態(tài)化對區(qū)內(nèi)App開展隱私合規(guī)和應(yīng)用安全檢查,，督促App開發(fā)運營單位深入學習、了解個人信息處理活動的相關(guān)法律法規(guī),、標準規(guī)范及合規(guī)手段,，通過數(shù)據(jù)分類分級,、加密處理、權(quán)限管控,、影響評估,、合規(guī)審計等方式不斷加強人臉信息的安全管理和保護措施，降低潛在風險,，當好個人信息安全的守門人,。（記者 張 濤）