中新网北京10月30日电(记者 吴涛)“一眼看去像是某领域专家,结果发现人物和身份都是AI虚构的。”“宣传图片光鲜亮丽,实景却相差万里,后来才知是AI合成。”
随着AI的广泛应用,AI广告违规风险越来越突出,这些内容涉嫌违背公序良俗、侵权抄袭、虚假宣传等。如何构建有效的AI广告治理体系,成为目前多个行业面临的问题。
仍有AI内容未做标识
一般来说,AI内容指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。如今,一些不法广告主利用AI技术生成逼真但虚假的消费场景,活跃在短视频、电商等平台上。
此前由国家互联网信息办公室、工业和信息化部等四部门发布的《人工智能生成合成内容标识办法》9月1日起正式实施,规定人工智能生成合成内容应有显式标识和隐式标识。
记者在多个短视频和电商平台浏览发现,疑似为AI生成但同时又未打AI标识的内容仍然可能出现,尤其是在2025年9月1日之前的存量宣传内容。有业内人士表示,受限于技术和算力成本,平台多依靠自带的AI水印或作者主动声明来识别,如果内容非本平台AI生成,则识别难度增加。
据CNNIC发布的数据显示,截至2025年6月,我国生成式人工智能用户规模达5.15亿人,较2024年12月增长2.66亿人。庞大的AI用户数量背后,也给AI内容治理提出更高的要求。
将如何治理AI广告?
面对海量的AI内容,传统的人工审核方式已难以为继。治理AI违规广告,必须依靠技术本身。据了解,在AI生成活跃的短视频社交平台上,已有大模型技术应用其中。
例如,有平台表示,在AI标识方面,90%素材10分钟内完成审核,对比传统审核效率提升了75%。对于涉及违规的广告,大模型通过推理判断,能快速提供精细化拒审理由,告知违规内容出现在视频中的具体时间点或具体画面。
巨量引擎商业安全治理标准负责人项韵对中新网记者表示,针对违规行为设置了从预警整改、限制新开、账户封停、主体清退等梯度化、多元化处置体系,“今年第三季度已前置拦截涉AI违规素材84万余个。”
快手平台则表示,会在AI生成的内容中添加“AI生成”显示标识、以及嵌入文件元数据中的隐式标识。如内容被平台检测为疑似AI内容时,则进行显著提示。
中国政法大学副教授、中国广告协会法德委朱巍对中新网表示,鉴于AI技术的复杂性和应用的广泛性,AI治理需要实现跨领域的协同。需要监管持续加码,需要平台强化责任,更需要网民切身参与。面对AI换脸宣传、深度合成侵权等新型风险,需要组建监管、平台、伦理委员会的 “共治联盟”,形成治理合力。
中国广告协会会长张国华近日表示,目前专门用于AI训练的优质语料依然稀缺,要从源头上确保AI语料的真实性、合规性及其导向的正确性。
而对于如何识别潜在的AI谎言?“公安部网安局”公众号29日发消息称,对于图片和视频,仔细观察是否存在AI生成的典型痕迹,例如人物手指数量异常、光影效果不自然、视频口型与声音不同步或背景模糊扭曲等。(完)
41297
67215
2025-10-30 14:40:56
42108
50293
2025-10-30 14:40:56
59741
05462
2025-10-30 14:40:56
13046
04867
2025-10-30 14:40:56
68391
71035
2025-10-30 14:40:56
46598
35271
2025-10-30 14:40:56
02437
79061
2025-10-30 14:40:56
51072
93082
2025-10-30 14:40:56
09685
70153
2025-10-30 14:40:56
32968
14509
2025-10-30 14:40:56
85639
41735
2025-10-30 14:40:56
97524
85946
2025-10-30 14:40:56
31570
38726
2025-10-30 14:40:56
83760
71058
2025-10-30 14:40:56
78309
12845
2025-10-30 14:40:56
70845
28960
2025-10-30 14:40:56
59213
04783
2025-10-30 14:40:56
48796
72643
2025-10-30 14:40:56
56702
81602
2025-10-30 14:40:56
07412
58214
2025-10-30 14:40:56
93840
82107
2025-10-30 14:40:56
71209
96205
2025-10-30 14:40:56
48023
36921
2025-10-30 14:40:56
68529
35160
2025-10-30 14:40:56
82930
96843
2025-10-30 14:40:56
39682
72861
2025-10-30 14:40:56
41528
39204
2025-10-30 14:40:56
09374
89154
2025-10-30 14:40:56
63587
54792
2025-10-30 14:40:56
70254
78396
2025-10-30 14:40:56
12934
08529
2025-10-30 14:40:56
61208
01352
2025-10-30 14:40:56
95862
37841
2025-10-30 14:40:56
69104
05396
2025-10-30 14:40:56
38209
24978
2025-10-30 14:40:56
37652
05628
2025-10-30 14:40:56