人民銳評:打擊AI造假不能僅靠受害者發聲
222
訂閱已訂閱已收藏
收藏點擊播報本文,約
近日,演員吳越公開發聲,怒斥視頻號“花姐美膚日記”利用AI換臉、語音克隆技術,盜用其肖像與聲音帶貨推銷。同一賬號還制作了鄧亞萍出鏡的AI帶貨視頻。無獨有偶,10月19日山姆會員商店發布聲明稱,多個社交媒體平台近期集中出現數千條針對山姆的惡意攻擊及虛假營銷信息,部分賬號通過AI生成、拼接素材、偽造採訪等方式,將從未在山姆上架的洗護、保健品、食品等商品,編造成“山姆下架好物”進行欺騙性營銷、引流牟利。
幾起事件,手法如出一轍:用AI批量生產“可信感”,借他人信用為自己背書,最終把流量導向欺騙性交易。
這已經不是簡單的“擦邊營銷”,其背后是一條成熟的產業鏈:技術開發、素材收集、賬號運營、流量變現,環環相扣。不少網友真假難辨,極易被欺騙。消費者刷到一張熟悉的臉、聽到一個熟悉的聲音,很難第一時間想到“這可能是假的”﹔等到下單、轉賬、被引流到私域,騙局已經完成閉環。
更值得警惕的是,這類行為侵害的遠不止消費者——公眾人物的肖像權、聲音權益,企業的名譽和信用,都成了黑產免費使用的“道具”。而維權的一方往往還要想著自証“我沒說過”“我沒賣過”,成本高、周期長,騙子卻可以換個賬號、換張臉繼續開工。
平台的責任無法回避。賬號能被搜索到、視頻能被反復推送,說明識別和攔截機制仍有漏洞。選擇固定証據、向平台及監管部門投訴舉報,作為受害者維權的考慮,是必要之舉。但個案舉報之外,更需要平台對批量投放、拼接配音、偽造採訪類內容建立常態化的識別與處置機制,對導流站外交易的行為重點監控。不能等當事人發聲、企業聲明之后才去“無法搜索”。
在處置個案的同時,監管部門還應順藤摸瓜,追根溯源,打掉深度偽造工具的售賣渠道、斬斷個人肖像聲音素材的非法來源。在法律法規、平台規則執行的層面,也要壓實賬號管理者和產品商家責任,追查貨源與宣傳主體,堵住資金結算漏洞,讓黑色產業鏈上的每個參與者都承擔相應法律責任。
當AI深度合成愈發逼真,治理的速度和力度,必須跑在造假者前邊。吳越要的是“如數奉還”,山姆要的是干淨的經營環境,消費者要的是不被假象欺騙。讓來源可追溯、內容可識別、責任可追究,造假鏈條上每一個參與者都付出看得見的代價,才能還網絡消費空間一片清朗。
分享讓更多人看到
- 評論
- 關注


































第一時間為您推送權威資訊
報道全球 傳播中國
關注人民網,傳播正能量