近日，北京市市場監(jiān)管局查處首例AI虛假廣告案。不法企業(yè)通過AI技術(shù)偽造電視臺主持人的形象，在直播間進行虛假宣傳，宣稱普通糖果類產(chǎn)品具備疾病治療功能，吸引八十八萬粉絲關(guān)注，對消費者構(gòu)成嚴重誤導(dǎo)。此類案例并非個例，知名人物形象因具備極高的公眾信任度，已成為AI造假黑產(chǎn)的“搶手素材”，其偽造內(nèi)容借助算法精準推送，極易誤導(dǎo)消費者，造成惡劣社會影響。
隨著生成式人工智能技術(shù)的規(guī)?；瘧?yīng)用，AI造假已從技術(shù)概念演變?yōu)楝F(xiàn)實風險，其假亂真的危害不斷突破認知邊界，對社會信任、市場秩序及公民權(quán)益構(gòu)成嚴重威脅。
當前AI造假已呈現(xiàn)出“高精度、低門檻、廣場景”的顯著特征。在技術(shù)層面，AI甚至能夠精準模仿名人的語氣神態(tài)，使偽造內(nèi)容難以通過肉眼辨別真?zhèn)巍Ｔ趹?yīng)用場景上，造假行為已從最初的娛樂惡搞，擴展至廣告欺詐、電信詐騙、輿論操縱等多個領(lǐng)域，形成了“素材獲取—模型訓練—聲音克隆—商業(yè)濫用”的完整灰色產(chǎn)業(yè)鏈。
從個體層面看，AI換臉所涉及公眾人物會面臨名譽受損、權(quán)益被侵害的風險，而普通消費者則可能因虛假宣傳遭受財產(chǎn)損失。從市場層面講，AI造假破壞了公平競爭環(huán)境，擠壓合法經(jīng)營者的生存空間，更為致命的是對社會信任體系的侵蝕。同時，AI生成內(nèi)容的數(shù)據(jù)規(guī)模呈爆炸式增長，全面檢測的成本極高，傳統(tǒng)監(jiān)管模式已無法適應(yīng)規(guī)?；卫淼男枨?。如何精準區(qū)分合法的AI創(chuàng)作與違法的造假行為，避免“一刀切”式監(jiān)管造成的誤傷，實現(xiàn)“不冤枉一個好人、不放過一個壞人”的治理目標，成為當前監(jiān)管工作的重要難題。
鑒于以上方面，治理AI造假，一是要強化立法保障，細化AI造假的法律界定與處罰標準，明確素材獲取、模型訓練、內(nèi)容傳播等各環(huán)節(jié)的法律責任。要建立AI服務(wù)提供者“黑名單”制度，對偽造權(quán)威形象、實施虛假宣傳等違法行為，依法從重處罰并限制市場準入。二是要完善溯源機制，實現(xiàn)全鏈條追責。落實“標識管理”要求，強制AI生成內(nèi)容添加顯式標識與隱式數(shù)字水印，構(gòu)建“生成—傳播—溯源”的完整鏈路，對未落實標識義務(wù)的平臺依法追責。三是要構(gòu)建技術(shù)防線，提升動態(tài)防控能力。以“技術(shù)對抗技術(shù)”的思路，構(gòu)建基座化AI鑒偽模型，通過多模態(tài)特征對齊、動態(tài)對抗訓練等技術(shù)，提升對新型造假手段的泛化檢測能力。
總之，AI技術(shù)的發(fā)展本應(yīng)服務(wù)于社會進步與人類福祉，但其濫用引發(fā)的造假亂象已成為不容忽視的現(xiàn)實風險。對此，必須強化治理力度，通過立法完善、技術(shù)創(chuàng)新、溯源追責與社會共治的多維度舉措，構(gòu)建全方位的防控體系。在遏制造假行為的同時，為人工智能產(chǎn)業(yè)的健康發(fā)展保駕護航，最終實現(xiàn)技術(shù)向善的發(fā)展目標。（尹訓銀）
官方微信公眾號
官方微博
