中國(guó)消費(fèi)者報(bào)報(bào)道（記者李燕京）人工智能技術(shù)的爆發(fā)式發(fā)展，正以顛覆性力量重塑消費(fèi)場(chǎng)景，同時(shí)也出現(xiàn)了一系列前所未有的侵權(quán)形態(tài)。從AI數(shù)字人成為虛假營(yíng)銷(xiāo)的“完美傀儡”到算法通過(guò)用戶(hù)畫(huà)像實(shí)施隱蔽的“千人千價(jià)”殺熟策略，從企業(yè)違規(guī)竊取消費(fèi)者數(shù)據(jù)訓(xùn)練模型到利用深度解析技術(shù)推送誘導(dǎo)性廣告，傳統(tǒng)消費(fèi)侵權(quán)行為也因技術(shù)升級(jí)變得更復(fù)雜、更隱蔽、更難以追責(zé)。
AI數(shù)字人成營(yíng)銷(xiāo)“幫兇”
由技術(shù)驅(qū)動(dòng)的AI數(shù)字人正被別有用心的人所利用。在采訪(fǎng)中，有消費(fèi)者向記者反映：“去年年底，家里的老人在瀏覽網(wǎng)絡(luò)賣(mài)貨視頻時(shí)，看到了‘張文宏醫(yī)生’推廣一款蛋白棒的內(nèi)容。老人對(duì)此深信不疑，不僅下單購(gòu)買(mǎi)，還轉(zhuǎn)發(fā)到了多個(gè)群聊中。我看到了轉(zhuǎn)發(fā)，一邊讓老人退款，一邊在各個(gè)群里說(shuō)明老人轉(zhuǎn)發(fā)的內(nèi)容不是真人，是克隆的數(shù)字人在行騙。后來(lái)，在各視頻平臺(tái)上已無(wú)法搜索到該賬號(hào)，但類(lèi)似的騙局仍在不斷上演?！?/p>
據(jù)記者了解，去年就有網(wǎng)友利用AI制作劉德華的聲音博取流量。劉德華電影公司緊急發(fā)布聲明，提醒網(wǎng)民不要落入偽造劉德華聲音的AI語(yǔ)音合成技術(shù)騙局。此外，一些公眾人物也未能幸免，其形象、聲音被不法分子惡意利用推廣商品，不僅損害了公眾人物的聲譽(yù)，還讓消費(fèi)者陷入被騙風(fēng)險(xiǎn)。
北京某科技公司網(wǎng)絡(luò)反詐騙軟件工程師劉乃文介紹說(shuō)，詐騙分子不僅利用公眾人物形象，還將AI數(shù)字人包裝成“理財(cái)專(zhuān)家”“老中醫(yī)”“情感導(dǎo)師”等形象，欺騙消費(fèi)者進(jìn)行消費(fèi)。目前數(shù)字人主播不斷細(xì)分，出現(xiàn)了專(zhuān)打感情牌的數(shù)字人主播，針對(duì)進(jìn)入直播間的老年女性，使用“寶貝姐姐”“每隔幾分鐘查看你是否在線(xiàn)”等話(huà)術(shù)誘騙消費(fèi)者購(gòu)買(mǎi)劣質(zhì)商品。這些數(shù)字人主播的售價(jià)在5000元左右，并配套提供“孤獨(dú)老人話(huà)術(shù)庫(kù)”“健康焦慮腳本”等標(biāo)準(zhǔn)化話(huà)術(shù)。這些通過(guò)算法優(yōu)化的話(huà)術(shù)，精準(zhǔn)擊中老年群體的情感需求，讓他們?cè)诓恢挥X(jué)中陷入騙局。
面對(duì)日益嚴(yán)峻的AI數(shù)字人欺詐問(wèn)題，相關(guān)部門(mén)出臺(tái)了一系列法規(guī)進(jìn)行規(guī)范。《生成式人工智能服務(wù)管理暫行辦法》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等法規(guī)，對(duì)AI數(shù)字人和AI生成內(nèi)容的標(biāo)識(shí)、數(shù)據(jù)來(lái)源等提出了具體要求。今年3月，國(guó)家網(wǎng)信辦等4部門(mén)聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，通過(guò)標(biāo)識(shí)提醒用戶(hù)辨別虛假信息，規(guī)范內(nèi)容制作、傳播各環(huán)節(jié)標(biāo)識(shí)行為，為規(guī)范AI生成內(nèi)容劃定紅線(xiàn)。
記者在采訪(fǎng)中發(fā)現(xiàn)，目前，各平臺(tái)雖已普遍升級(jí)AI內(nèi)容識(shí)別系統(tǒng)，要求對(duì)AI生成作品進(jìn)行顯著標(biāo)注，但一些數(shù)字主播直播間的標(biāo)注、提示并不顯眼，甚至缺失。
據(jù)網(wǎng)信中國(guó)微信公眾號(hào)7月9日發(fā)布的消息，中央網(wǎng)信辦整治AI技術(shù)濫用，第一階段累計(jì)處置違規(guī)小程序、應(yīng)用程序、智能體等AI產(chǎn)品3500余款，清理違法違規(guī)信息96萬(wàn)余條，處置賬號(hào)3700余個(gè)。
7月14日，浙江省消費(fèi)者權(quán)益保護(hù)委員會(huì)發(fā)布上半年消費(fèi)領(lǐng)域投訴熱點(diǎn)問(wèn)題，提醒消費(fèi)者在選擇短視頻帶貨服務(wù)時(shí)要警惕AI仿冒技術(shù)，仔細(xì)觀察主播的微表情是否自然，聲音與口型是否同步，是否出現(xiàn)人物或背景模糊、扭曲等異常畫(huà)面，對(duì)異常低價(jià)或反常促銷(xiāo)行為應(yīng)保持警惕，優(yōu)先選擇有“綠色直播間”認(rèn)證標(biāo)識(shí)的商家；不輕信主播引導(dǎo)至微信、QQ等平臺(tái)交易的要求，堅(jiān)持在正規(guī)電商平臺(tái)完成支付。
算法“殺熟”精準(zhǔn)收割
在數(shù)字經(jīng)濟(jì)浪潮的推動(dòng)下，算法技術(shù)深度融入人們生活的方方面面，從個(gè)性化推薦到精準(zhǔn)營(yíng)銷(xiāo)，本應(yīng)是為消費(fèi)者帶來(lái)便利與高效體驗(yàn)的“得力助手”。然而，算法“殺熟”這一現(xiàn)象卻悄然損害著消費(fèi)者的合法權(quán)益。
算法“殺熟”，簡(jiǎn)單來(lái)說(shuō)，就是經(jīng)營(yíng)者借助大數(shù)據(jù)技術(shù)，廣泛收集用戶(hù)的個(gè)人數(shù)據(jù)，再通過(guò)算法深度剖析消費(fèi)習(xí)慣、價(jià)格敏感度等關(guān)鍵信息，進(jìn)而對(duì)不同用戶(hù)群體實(shí)施個(gè)性化定價(jià)。這一現(xiàn)象在電商購(gòu)物、在線(xiàn)旅游、電影平臺(tái)、網(wǎng)約車(chē)服務(wù)等眾多領(lǐng)域頻繁上演，屢見(jiàn)不鮮。
在采訪(fǎng)中，多位消費(fèi)者向記者表示有過(guò)被殺熟的經(jīng)歷。消費(fèi)者李女士在某知名旅游平臺(tái)預(yù)訂酒店時(shí)，同一時(shí)間、同一酒店、同一房型，她手機(jī)顯示的價(jià)格比朋友高出60元。消費(fèi)者張先生使用某網(wǎng)約車(chē)平臺(tái)時(shí)，發(fā)現(xiàn)相同的起點(diǎn)和終點(diǎn)，自己的費(fèi)用比同事高出5元。
記者還了解到，有的電商平臺(tái)根據(jù)用戶(hù)消費(fèi)數(shù)據(jù)，選擇性發(fā)放優(yōu)惠券，高消費(fèi)用戶(hù)被排除在外。一些平臺(tái)還利用算法操控后臺(tái)，依據(jù)用戶(hù)退貨記錄動(dòng)態(tài)調(diào)整售后政策，高頻退貨用戶(hù)被扣除高額運(yùn)費(fèi)，部分用戶(hù)的售后通道被自動(dòng)關(guān)閉。
劉乃文介紹說(shuō)，現(xiàn)在電商的推薦系統(tǒng)和定價(jià)算法日益復(fù)雜，涉及機(jī)器學(xué)習(xí)和人工智能等前沿技術(shù)，其決策過(guò)程猶如一個(gè)神秘的“黑箱”，難以被外部監(jiān)管者理解和審查。企業(yè)正是利用算法的這一特性，對(duì)用戶(hù)進(jìn)行差異化定價(jià)，而消費(fèi)者卻很難察覺(jué)并舉證。以電商平臺(tái)的定價(jià)算法為例，消費(fèi)者根本無(wú)法知曉為何自己看到的價(jià)格比他人高，也難以證明這是算法“殺熟”的操作。
面對(duì)算法“殺熟”這一頑疾，部分不甘被操縱的消費(fèi)者發(fā)起了“反向馴化”大數(shù)據(jù)的行動(dòng)，推出一系列“反殺攻略”。記者看到，一些網(wǎng)友發(fā)帖介紹防“殺熟”技巧，如清除瀏覽記錄和緩存、使用隱身模式或不同瀏覽器、切換設(shè)備或網(wǎng)絡(luò)環(huán)境、創(chuàng)建新賬戶(hù)或使用多個(gè)賬號(hào)、比較不同平臺(tái)價(jià)格等。這些看似機(jī)智的小妙招，實(shí)則處處透露著消費(fèi)者的無(wú)奈。
信息泄露算法歧視成痛點(diǎn)
在人工智能技術(shù)深度嵌入消費(fèi)場(chǎng)景的今天，消費(fèi)者正面臨前所未有的權(quán)益挑戰(zhàn)。記者調(diào)查發(fā)現(xiàn)，從數(shù)據(jù)收集到消費(fèi)決策干預(yù)，由于AI技術(shù)存在濫用問(wèn)題，使得消費(fèi)者陷入信息泄露、算法歧視的困境中。
數(shù)據(jù)是AI時(shí)代的“原油”，是驅(qū)動(dòng)算法的核心燃料。據(jù)專(zhuān)業(yè)人士介紹，獲取并處理海量數(shù)據(jù)所需的成本較高，包括數(shù)據(jù)采集、清洗、標(biāo)注、存儲(chǔ)以及合規(guī)審查等環(huán)節(jié)。在激烈的市場(chǎng)競(jìng)爭(zhēng)壓力下，部分企業(yè)為了快速搶占技術(shù)高地、降低研發(fā)成本，開(kāi)始在數(shù)據(jù)獲取的“灰色地帶”游走，將消費(fèi)者的個(gè)人信息悄無(wú)聲息地轉(zhuǎn)化為訓(xùn)練AI模型的“免費(fèi)午餐”。
記者在采訪(fǎng)中發(fā)現(xiàn)，在用戶(hù)注冊(cè)APP、軟件或購(gòu)買(mǎi)產(chǎn)品時(shí)，部分企業(yè)通過(guò)設(shè)置“默認(rèn)勾選”同意隱私政策的方式，利用用戶(hù)的疏忽或操作慣性，在未獲得其明確、真實(shí)意愿的情況下，便將其個(gè)人信息納入數(shù)據(jù)收集范圍。更有甚者，隱私政策條款晦澀冗長(zhǎng)，充斥著大量專(zhuān)業(yè)術(shù)語(yǔ)和模糊表述，如同精心編織的“法律迷宮”。這些模糊條款為企業(yè)后續(xù)的數(shù)據(jù)濫用埋下了伏筆。
據(jù)劉乃文介紹，目前AI對(duì)用戶(hù)行為的深度解析能力，被一些企業(yè)轉(zhuǎn)化為操控消費(fèi)決策的工具。有的應(yīng)用軟件利用AI生成“定制化內(nèi)容”，通過(guò)分析用戶(hù)興趣偏好推送誘導(dǎo)性廣告，甚至虛構(gòu)“限時(shí)優(yōu)惠”“朋友已購(gòu)買(mǎi)”等場(chǎng)景，誘導(dǎo)消費(fèi)者在非理性狀態(tài)下下單。算法還存在歧視問(wèn)題。個(gè)別貸款平臺(tái)通過(guò)AI算法對(duì)用戶(hù)進(jìn)行“數(shù)字畫(huà)像”，將低收入群體、農(nóng)村戶(hù)籍用戶(hù)自動(dòng)歸類(lèi)為“高風(fēng)險(xiǎn)客戶(hù)”，直接拒絕其貸款申請(qǐng)或提高利率。
天津四方君匯歷史事務(wù)所律師吳子畏對(duì)記者說(shuō)，面對(duì)AI侵權(quán)，消費(fèi)者往往陷入舉證難、追責(zé)難、賠償難的“三難”境地。由于AI決策過(guò)程具有“黑箱”特性，消費(fèi)者難以證明自身權(quán)益受損與算法之間的因果關(guān)系。企業(yè)則以“商業(yè)秘密”“技術(shù)復(fù)雜”為由拒絕披露算法邏輯。此外，跨國(guó)數(shù)據(jù)流動(dòng)、多平臺(tái)數(shù)據(jù)共享等新型場(chǎng)景，進(jìn)一步模糊了侵權(quán)責(zé)任主體，導(dǎo)致消費(fèi)者維權(quán)成本高昂。他建議，建立針對(duì)AI技術(shù)的專(zhuān)項(xiàng)監(jiān)管框架，明確數(shù)據(jù)收集邊界、算法審計(jì)標(biāo)準(zhǔn)及侵權(quán)賠償機(jī)制。同時(shí)，消費(fèi)者應(yīng)增強(qiáng)數(shù)據(jù)保護(hù)意識(shí)，謹(jǐn)慎授權(quán)應(yīng)用權(quán)限。
官方微信公眾號(hào)
官方微博
