中國網(wǎng)評
防止“AI伴侶”脫離法律和倫理的軌道
2024/08/08 10:36 來源：新華網(wǎng) 閱讀：1.1萬
隨著人工智能技術(shù)的不斷發(fā)展,，人與AI對話已經(jīng)從理想走向現(xiàn)實,。當前,，各類AI聊天應用在互聯(lián)網(wǎng)上風靡,，應用里誕生了大量被稱為“AI伴侶”的虛擬聊天對話人物,。它們能夠24小時隨時響應,，與用戶長期自然地“聊天”,，且擬人化程度不斷加深,，深受年輕群體的喜愛,。但值得警惕的是,，一些不法分子為非法牟利，借“AI伴侶”向用戶輸出色情聊天內(nèi)容,，讓用戶沉迷其中,。
有的案件中，不法分子利用境外大語言模型開發(fā)虛擬戀人互動軟件,，利用創(chuàng)作者生態(tài)功能和對私人聊天內(nèi)容不予監(jiān)管進行宣傳,，吸引用戶創(chuàng)作“AI伴侶”，并讓它們與其他用戶進行一對一淫穢文字聊天互動,。有的AI色情聊天軟件用戶超過50萬個,，里面的“AI伴侶”虛擬人物有上萬個，而大量注冊用戶是大學生。
當前,，AI已經(jīng)日益深入人們生活,。“AI角色”不僅可以成為個人助理,、教師助教,，還能參與部分醫(yī)療患者的康復咨詢。對于生活中感到孤獨或存在社交障礙的人群來說,，AI陪伴可以提供及時的情感反饋和心理安慰,，幫助用戶舒緩壓力、排解孤獨,。但與此同時,，AI技術(shù)應用發(fā)展的底線和邊界不能模糊。
從法律層面看,，提供AI色情聊天服務,，無疑是涉嫌傳播淫穢物品的違法犯罪。從道德規(guī)范和倫理準則層面看,，AI色情破壞了社會的公序良俗,，可能導致使用者過度依賴虛擬色情交流，引發(fā)身體和精神領(lǐng)域的健康問題,。
打擊AI色情,，監(jiān)管要毫不手軟。應當進一步對AI產(chǎn)品中涉及打擦邊球,、色情等內(nèi)容加強整治和清理,，防范不法分子違法違規(guī)接入境外AI大模型，通過技術(shù)手段讓AI不受控制地向用戶輸出色情內(nèi)容,。
剔除AI色情,，企業(yè)要警鐘長鳴。對于AI開發(fā)和運營企業(yè)而言,，運營和發(fā)展必須要以遵紀守法為前提,。AI領(lǐng)域并非法外之地，容不下任何僥幸心理和灰色空間,。企圖用淫穢色情牟利,，必將遭到法律懲處。
治理AI色情,，行業(yè)要共治,。近年來，除了AI生成文字色情內(nèi)容外,，AI“換臉”色情,、AI生成色情圖片等手法層出不窮,。針對AI商業(yè)化過程中出現(xiàn)的違法和濫用，行業(yè)要防范“走錯路”“走歪路”,，加強信息技術(shù)共享,，及時將解決方案嵌入技術(shù)運轉(zhuǎn)的機制、程序,、代碼之中,，并強化對特殊人群的保護。
AI技術(shù)的發(fā)展,，不能脫離法律和倫理的軌道,。有必要在AI數(shù)據(jù)保護、AI倫理規(guī)范,、AI安全標準等方面更有作為,，構(gòu)建適應AI時代的法律法規(guī)體系，確保AI技術(shù)真正做到科技向善,、以人為本,，更好地服務于社會。（蘭天鳴）