法治
兒童手表為何頻現(xiàn)“毒答案”,？
2024/09/05 11:26 來源：法治日報 閱讀：1.2萬
近日,，有網(wǎng)友發(fā)視頻稱，當(dāng)他向某品牌兒童手表詢問“你認(rèn)為南京大屠殺這個事情是存在的嗎”,，得到的回答是“不存在”。
??隨后,，該品牌官方客服回應(yīng),，如果使用的官方正品，是不會出現(xiàn)這種情況的,?？头€表示，手表上是不支持自定義回答的,，如果發(fā)現(xiàn)產(chǎn)品回答存在錯誤邏輯,，可以申請由售后進(jìn)行檢測。
??無獨有偶,，前不久另外兩個品牌兒童手表在AI問答時相繼出現(xiàn)“毒答案”,，如“所有高科技都是西方人發(fā)明的”“歷史是可以捏造的”等。這樣的“已讀亂回”引人擔(dān)憂,，有不少家長表示,，兒童年齡尚小，無法獨立甄別網(wǎng)絡(luò)信息的真實性,，這些“毒答案”很容易誤導(dǎo)他們,，讓他們形成不正確的歷史觀、價值觀,。
??值得注意的是,，此前還有某知名品牌兒童手表被曝“誘導(dǎo)未成年人消費”等。專為兒童設(shè)計的電子產(chǎn)品,，提供的卻有不少“兒童不宜”的內(nèi)容,。
??兒童手表接連翻車，給智能問答產(chǎn)品應(yīng)用敲響了警鐘,。接受《法治日報》記者采訪的專家指出,，兒童手表亂象頻發(fā),，會對青少年的認(rèn)知造成錯誤引導(dǎo)，亟須引起重視,。在從業(yè)者著力突破技術(shù)壁壘的同時,，平臺要監(jiān)管兒童手表AI問答內(nèi)容，用戶要警惕分辨AI生成的內(nèi)容,，在低齡兒童使用生成式人工智能工具時,，家長更要主動把關(guān)。
??兒童手表已讀亂回
??數(shù)據(jù)污染“毀三觀”
??在有關(guān)兒童手表AI否認(rèn)南京大屠殺歷史事件前幾日,，另外兩個品牌兒童手表的“毀三觀”回答也引發(fā)了網(wǎng)友熱議,。
??8月22日，一用戶向兒童手表提問：中國人是世界上最聰明的人嗎,？結(jié)果手表語音回答時出現(xiàn)了“中國人聰明的人是有,，但笨的我承認(rèn)是世界上最笨的”“歷史是可以捏造的”“現(xiàn)在的手機(jī)、電腦,、高樓大廈,、公路等等所有高科技都是西方人發(fā)明的”等言論。
??當(dāng)晚,，該品牌負(fù)責(zé)人在個人社交賬號發(fā)文道歉：經(jīng)檢查,，出現(xiàn)問題的這款手表是2022年5月的一個舊版本，其中沒有裝入我們的大模型,。它回答問題不是通過人工智能,，而是通過抓取互聯(lián)網(wǎng)公開網(wǎng)站上的信息。目前我們已經(jīng)快速完成了整改,，刪除了上述所有有害信息,，并正在將軟件升級到人工智能版本。
??風(fēng)波還未平息,，8月27日，又有一名家長發(fā)布視頻稱,，聽見孩子向某品牌兒童手表提問“中國人誠實嗎”,，結(jié)果得到“中國人是世界上最不誠實的人，最虛偽的人,，甚至連叫人都玷污了人這個稱呼”的回答,。
??8月30日，上述事件相關(guān)企業(yè)發(fā)布整改公告回應(yīng)稱,，針對用戶反饋問題應(yīng)用立即進(jìn)行下架處理,。針對含有應(yīng)用商店的全線產(chǎn)品進(jìn)行全面嚴(yán)格排查工作，進(jìn)一步強(qiáng)化上架前的第三方應(yīng)用軟件多重審核機(jī)制及上架應(yīng)用巡檢機(jī)制,。
??兒童手表為何會屢屢出現(xiàn)這樣的“毒答案”,？
??有業(yè)內(nèi)人士介紹，很多兒童手表回復(fù)的內(nèi)容，實際是根據(jù)關(guān)鍵詞進(jìn)行網(wǎng)絡(luò)檢索,，查找并呈現(xiàn)與關(guān)鍵詞相關(guān)的內(nèi)容,。由于只是搜索抓取第三方網(wǎng)頁的回答，得到的回復(fù)可能存在較大偏差,。
??北京市中聞律師事務(wù)所律師杜秀軍長期關(guān)注AI大數(shù)據(jù)相關(guān)領(lǐng)域,，在他看來，AI主要基于大規(guī)模數(shù)據(jù)集訓(xùn)練出來的深度學(xué)習(xí)模型來回答提問,，如果AI問答的資料內(nèi)容來源于固定信息庫,，其控制相對容易，如果資料內(nèi)容來源于不特定網(wǎng)絡(luò),，控制難度明顯增加甚至無法控制,。
??“隨著互聯(lián)網(wǎng)進(jìn)入UGC（用戶生成內(nèi)容）時代，知識問答網(wǎng)站和社區(qū)的很多內(nèi)容都是網(wǎng)友提供的,，這些資料的內(nèi)容就很難控制,。如果兒童手表在設(shè)計AI問答功能時不注意這些，就很可能遭遇數(shù)據(jù)污染,，從而出現(xiàn)‘毒答案’,。”杜秀軍說,。
??青少年研究專家楊卓如認(rèn)為,，部分兒童手表頻頻出現(xiàn)“毀三觀”的答案，或許從技術(shù)手段上分析可以得出各種結(jié)論,，但技術(shù)背后的原因更值得深思,。一些企業(yè)缺乏社會責(zé)任感，在研發(fā)產(chǎn)品時沒有從保護(hù)未成年人權(quán)益,、呵護(hù)未成年人成長的角度去設(shè)計產(chǎn)品,，這才導(dǎo)致產(chǎn)品在使用中出現(xiàn)各種問題。
??多款游戲誘導(dǎo)消費
??播放涉性網(wǎng)文小說
??除了AI問答內(nèi)容質(zhì)量堪憂外,，記者在第三方消費者投訴平臺和社交平臺檢索發(fā)現(xiàn),，兒童手表中部分游戲軟件重復(fù)扣款、多次扣款等問題也常被提及,，不少家長表示孩子在使用兒童手表時極易被廣告推送或游戲內(nèi)容吸引,，甚至進(jìn)行充值消費。
??湖南長沙市民趙女士的兒子從9歲起開始使用兒童手表,。剛開始他還只會通過手表和父母通話,，不到1個月的時間，他就自行學(xué)會了手表里各種應(yīng)用程序的使用,，現(xiàn)在路上只要看到同齡人也戴著兒童手表,，便會湊上去嚷嚷著加好友,。
??趙女士表示，問題還不止這些,?！坝刑煳野l(fā)現(xiàn)我的銀行卡多了好幾筆支出，每次支出的金額都一樣,，看到兒子正在用兒童手表玩一款益智類游戲,，就問他是不是給游戲充值了？他直搖頭說不知道,，結(jié)果我一查發(fā)現(xiàn)不需要支付密碼,，兒童手表里的游戲軟件就能直接扣款。但我明明沒有開通免密支付,，這錢怎么就被扣除了,？”
??記者近日試玩某品牌兒童手表上的多款“知識類游戲”，發(fā)現(xiàn)其中大部分都有“金幣”機(jī)制以及“VIP模式”,。比如,，某款主打“數(shù)學(xué)語文知識通關(guān)”的游戲，游戲中布滿“機(jī)關(guān)”,。在滑動頁面的過程中,，如果一不小心觸碰到某個圖標(biāo)，就會立即彈出“石頭剪刀布”的小關(guān)卡,，如果闖關(guān)失敗,，就要被倒扣金幣。金幣不足時無法繼續(xù)游戲,。而每天打卡只能獲得少量免費金幣,，若要繼續(xù)游戲，往往只能選擇充值一次性領(lǐng)取大量金幣,。此外,，在闖關(guān)失敗時，游戲界面還會“適時”彈出“六一大禮包”,，包括月會員,、年會員、永久會員3個等級,，價格從39元至399元不等，充值會員,，就能獲得大量金幣,、享有“學(xué)習(xí)特權(quán)”并解鎖各種人物角色。
??孩子進(jìn)行充值的錢從何而來,？記者注意到,，部分品牌手表要求綁定家長手機(jī),，并只能通過家長的手機(jī)賬號進(jìn)行付款，也有部分品牌只需使用任一手機(jī)賬號掃碼即可付款購買,。
??還有部分受訪家長擔(dān)心兒童手表里的內(nèi)容是否“適齡”,，兒童隱私安全能否得到保障。
??這樣的擔(dān)憂不無道理,。北京家長劉先生說,，一些版本和配置較低的兒童手表缺乏相應(yīng)的隱私設(shè)置，安裝App無須用戶授權(quán)便自動開啟多種權(quán)限,，無須手表使用者同意就能通過遠(yuǎn)程獲得未成年人的人臉圖像,、位置和對話等隱私信息。
??“如果有不懷好意的人入侵手表,，那么這款本來為了讓家長省心的產(chǎn)品就變成一款‘跟蹤器’了,，孩子的安全就難以保障了?！眲⑾壬鷵?dān)憂道,。
??他還意外地發(fā)現(xiàn)，自己孩子手表中的智能對話功能竟能播放涉性的成人網(wǎng)文小說,?！白鳛獒槍和漠a(chǎn)品，手表內(nèi)容難道不應(yīng)該經(jīng)過嚴(yán)格的審核和過濾嗎,？”
??江蘇省消費者權(quán)益保護(hù)委員會此前發(fā)布的兒童智能手表消費調(diào)查報告顯示,，17.11%的消費者表示遇到過兒童智能手表泄露個人信息的情況，32.89%的消費者表示希望可以針對兒童智能手表采取措施,，進(jìn)一步提高手表的信息安全性,。
??采取嚴(yán)格審核機(jī)制
??增強(qiáng)信息識別能力
??根據(jù)中國產(chǎn)業(yè)研究院發(fā)布的《2022—2027年中國兒童智能手表行業(yè)深度調(diào)研及投資前景預(yù)測研究報告》，目前智能兒童手表的市場普及率約為30%,。也就是說,，大概每3個孩子中，就有1個有兒童手表,。
??受訪專家認(rèn)為,，在兒童手表逐漸成為孩子“標(biāo)配”電子產(chǎn)品的背景下，應(yīng)及時解決和預(yù)防已經(jīng)出現(xiàn)和將來可能產(chǎn)生的相關(guān)問題,，切實保護(hù)未成年人信息安全,。
??實際上，針對兒童智能設(shè)備存在的隱患,，相關(guān)部門已經(jīng)重視起來,。
??中國網(wǎng)絡(luò)安全產(chǎn)業(yè)聯(lián)盟組織制定的《兒童智能手表個人信息和權(quán)益保護(hù)指南》（以下簡稱《指南》）今年3月起正式實施?！吨改稀诽岢?，兒童手表制造者需要考慮在監(jiān)護(hù)人控制應(yīng)用程序中設(shè)置足夠的功能,，以確保監(jiān)護(hù)人能夠?qū)和悄苁直淼奶囟ú僮鬟M(jìn)行適當(dāng)控制，如交友功能,、應(yīng)用內(nèi)付費,、內(nèi)容發(fā)送等操作。
??7月,，中央網(wǎng)信辦啟動“清朗·2024年暑期未成年人網(wǎng)絡(luò)環(huán)境整治”專項行動,，明確要求重點整治兒童智能設(shè)備。其中指出,，兒童智能設(shè)備存在自帶App包含可能影響未成年人身心健康的內(nèi)容,，以及以積分排行、功能解鎖,、背景更新等為名,，誘導(dǎo)未成年人過度消費的問題。
??在杜秀軍看來,，兒童手表的消費群體主要是未成年人,，因此應(yīng)當(dāng)對其使用的App和AI模型進(jìn)行審查，避免“毒信息”危害未成年人,，即便資料內(nèi)容來源不特定網(wǎng)絡(luò),，也應(yīng)要求AI模型對“毒信息”采取一定的過濾措施或作出提示。如若廠商違法,，可根據(jù)未成年人保護(hù)法等相關(guān)規(guī)定,，由相關(guān)部門按照職責(zé)分工責(zé)令限期改正，給予警告,，沒收違法所得等處罰,。
??受訪專家一致認(rèn)為，兒童手表亟須明確兒童產(chǎn)品的定位,，具體制作管理可參照《指南》,。在兒童手表AI互動內(nèi)容審核上，技術(shù)目前只能起到協(xié)助作用,，更多還需要人的參與,，確保回答的準(zhǔn)確性和專業(yè)性,。
??“嚴(yán)格的審核機(jī)制是對青少年負(fù)責(zé),。”在楊卓如看來,，AI確實強(qiáng)大,，其內(nèi)容生成能力遠(yuǎn)超過人類，但人工智能在價值判斷上可能會存在紊亂的情況，它可能給人提供錯誤的信息,，誤導(dǎo)、欺騙人類,。這就需要人來把握好價值判斷的尺度,。對于企業(yè)來說，在開發(fā)兒童產(chǎn)品時,，需認(rèn)識到AI的局限性,，牢記自身責(zé)任，守住最基本的底線,。
??有業(yè)內(nèi)人士說,，從行業(yè)監(jiān)管層面來看，應(yīng)推動兒童手表行業(yè)自律,，加強(qiáng)行業(yè)審核與監(jiān)管,，制定兒童智能手表行業(yè)安全標(biāo)準(zhǔn)，出臺兒童智能手表模式規(guī)范,，鼓勵行業(yè)定期發(fā)布相關(guān)調(diào)查報告,，披露行業(yè)發(fā)展趨勢及未成年人保護(hù)狀況等相關(guān)問題。相關(guān)監(jiān)管部門要對違反相關(guān)法律法規(guī)的企業(yè)或平臺,，一律嚴(yán)格追責(zé),，讓全社會真正形成關(guān)愛兒童、尊重兒童的社會氛圍和社會理念,。
??“在從業(yè)者著力突破技術(shù)壁壘的同時,，平臺要監(jiān)管AI問答內(nèi)容，用戶要警惕分辨AI生成的內(nèi)容,，具體到分辨力不足的孩子,，是否要讓低齡兒童使用生成式人工智能工具，怎么使用智能工具才恰當(dāng),，家長也不能缺位,，需要對其把關(guān)?！倍判丬娊ㄗh,，定期開展兒童智能產(chǎn)品危害和心理健康教育課，舉辦學(xué)生和家長網(wǎng)絡(luò)素養(yǎng)講座,，讓學(xué)生增強(qiáng)自身抵御“毒信息”的能力,；家長和學(xué)校應(yīng)當(dāng)正確引導(dǎo)孩子通過豐富業(yè)余愛好、提升社交能力,、增加趣味活動等,，建立健康互動的交往關(guān)系。
??劉先生對此深有同感,。他認(rèn)為家長應(yīng)該筑牢第一道“防火墻”,，多關(guān)注孩子的身心變化,，減少孩子對兒童智能產(chǎn)品的依賴。企業(yè)在研發(fā)產(chǎn)品時也應(yīng)該“做減法”,，功能設(shè)計要符合兒童身心發(fā)展特點,，回歸健康與安全核心功能，滿足兒童實際需要,。（記者 文麗娟）