日前，四部門聯合發布《人工智能生成合成內容標識辦法》（以下簡稱《辦法》），規范了人工智能生成合成的內容標識，以保護公民、法人和其他組織合法權益，促進人工智能健康發展。

今年初，隨著DeepSeek等AI應用爆火出圈，各行各業都迫不及待探索AI在各自領域的應用，期待通過AI提升效率、創造新價值。

然而，面對洶涌而來的AI應用熱潮，一些亂象也引起了人們的關注。比如：AI生產的虛假信息對受眾產生誤導、污染輿論空間﹔不法分子利用越來越逼真的AI生成技術仿冒他人、實施詐騙。再如在電商領域：部分不良商家靠AI假圖和低價吸引消費者下單，但“貨不對板”﹔部分直播間用AI造假背景偽裝“工廠發貨”，對消費者構成欺騙﹔部分投機取巧的商家借助AI大量盜取原創商家的圖片，毫不費力地惡意抄款，加劇行業競爭。可以說，面對AI造假現象，不同行業面臨著不同的現實問題。

《辦法》的出台旨在防控人工智能（以下簡稱AI）技術造假、濫用現象。互聯網平台是AI生成信息的主要傳播媒介，平台理當是治理的中堅力量。《辦法》規定了相關內容的標識規范，並且明確規定了相關平台的審核、檢驗責任。《辦法》出台后，平台也開始積極響應。如快手、豆包等內容平台開始在信息流中標注AI生成字樣，提醒消費者注意甄別。再如，淘寶通過模型識別，攔截失真的AI假圖上傳﹔明確嚴禁利用AI等技術合成方式，呈現顯著失真與實際不符的商品信息效果圖。

值得一提的是，不同於資訊、娛樂內容，商品圖片直接關系到消費決策，AI的應用應當本著提高消費體驗、促進原創等原則，否則很容易淪為黑灰產的“助攻”。若使用AI假圖宣推產品現象泛濫，將直接傷害消費者的消費體驗、消費意願，打擊誠信經營的商家的經營信心，也將無法實現“品質電商”的目標。電商平台完善規范、推出治理措施，值得肯定。但要最大限度降低AI濫用影響、還消費領域清朗空間，還需全社會的支持和努力。

“該如何兼顧技術進步和倫理規范”等問題愈加現實和迫切，隻有秉持發展與安全兼顧的原則，才可能讓AI真正服務於美好生活。人必須有價值判斷、相關的企業和平台必須有價值取向，防控AI應用亂象應盡早，要各盡其責。

分享讓更多人看到