中新網北京10月30日電(記者 吳濤)“一眼看去像是某領域專家，結果發(fā)現人物和身份都是AI虛構的?！薄靶麄鲌D片光鮮亮麗，實景卻相差萬里，后來才知是AI合成?！?/p>

　　隨著AI的廣泛應用，AI廣告違規(guī)風險越來越突出，這些內容涉嫌違背公序良俗、侵權抄襲、虛假宣傳等。如何構建有效的AI廣告治理體系，成為目前多個行業(yè)面臨的問題。

　　仍有AI內容未做標識

　　一般來說，AI內容指利用人工智能技術生成、合成的文本、圖片、音頻、視頻、虛擬場景等信息。如今，一些不法廣告主利用AI技術生成逼真但虛假的消費場景，活躍在短視頻、電商等平臺上。

　　此前由國家互聯(lián)網信息辦公室、工業(yè)和信息化部等四部門發(fā)布的《人工智能生成合成內容標識辦法》9月1日起正式實施，規(guī)定人工智能生成合成內容應有顯式標識和隱式標識。

　　記者在多個短視頻和電商平臺瀏覽發(fā)現，疑似為AI生成但同時又未打AI標識的內容仍然可能出現，尤其是在2025年9月1日之前的存量宣傳內容。有業(yè)內人士表示，受限于技術和算力成本，平臺多依靠自帶的AI水印或作者主動聲明來識別，如果內容非本平臺AI生成，則識別難度增加。

　　據CNNIC發(fā)布的數據顯示，截至2025年6月，我國生成式人工智能用戶規(guī)模達5.15億人，較2024年12月增長2.66億人。龐大的AI用戶數量背后，也給AI內容治理提出更高的要求。

　　將如何治理AI廣告？

　　面對海量的AI內容，傳統(tǒng)的人工審核方式已難以為繼。治理AI違規(guī)廣告，必須依靠技術本身。據了解，在AI生成活躍的短視頻社交平臺上，已有大模型技術應用其中。

　　例如，有平臺表示，在AI標識方面，90%素材10分鐘內完成審核，對比傳統(tǒng)審核效率提升了75%。對于涉及違規(guī)的廣告，大模型通過推理判斷，能快速提供精細化拒審理由，告知違規(guī)內容出現在視頻中的具體時間點或具體畫面。

　　巨量引擎商業(yè)安全治理標準負責人項韻對中新網記者表示，針對違規(guī)行為設置了從預警整改、限制新開、賬戶封停、主體清退等梯度化、多元化處置體系，“今年第三季度已前置攔截涉AI違規(guī)素材84萬余個。”

　　快手平臺則表示，會在AI生成的內容中添加“AI生成”顯示標識、以及嵌入文件元數據中的隱式標識。如內容被平臺檢測為疑似AI內容時，則進行顯著提示。

　　中國政法大學副教授、中國廣告協(xié)會法德委朱巍對中新網表示，鑒于AI技術的復雜性和應用的廣泛性，AI治理需要實現跨領域的協(xié)同。需要監(jiān)管持續(xù)加碼，需要平臺強化責任，更需要網民切身參與。面對AI換臉宣傳、深度合成侵權等新型風險，需要組建監(jiān)管、平臺、倫理委員會的 “共治聯(lián)盟”，形成治理合力。

　　中國廣告協(xié)會會長張國華近日表示，目前專門用于AI訓練的優(yōu)質語料依然稀缺，要從源頭上確保AI語料的真實性、合規(guī)性及其導向的正確性。

　　而對于如何識別潛在的AI謊言？“公安部網安局”公眾號29日發(fā)消息稱，對于圖片和視頻，仔細觀察是否存在AI生成的典型痕跡，例如人物手指數量異常、光影效果不自然、視頻口型與聲音不同步或背景模糊扭曲等。(完)