编者按：反映社情民意信息是民主党派一项重要的经常性、基础性工作，是参政履职的重要方式。为把杭州民盟社情民意信息工作推向新台阶，特开辟“信息撰写心得”专栏，邀请盟员分享高质量社情民意信息撰写心得，供全市盟员学习参考。
朱智慧
浙江腾智律师事务所主任、一级律师
杭州市政协委员
民盟杭州市委会委员、综合基层委员会副主委
民盟浙江省委会社会与法制专委会副主任
作者说
DeepSeek的横空出世，让人工智能（AI）成为今年社会最关注的热点之一，这进一步促进了AI的普及与使用，中国AI用户开始爆发式激增。但在享受科技进步带来的便捷时，我也敏锐地发现了新的社会问题，大量使用AI产生或制作的虚假信息在网上泛滥，且真假难辨，形成了网络AI垃圾污染。与传统虚假信息相比，AI垃圾信息生产传播效率高、规模大、难以辨识，还严重破坏信息筛选检索机制。虽然国家网信办等相关部门陆续出台了针对AI的相关管理规定，但相关规定立法层级低、治理效果不足。从专业的角度看，AI领域的立法明显滞后于科技与社会的发展，对网络AI垃圾污染的治理与防范更显不足。因此，我从修订现行法律强化AI使用监管、制定《生成式人工智能管理条例》、完善AI垃圾协同治理制度等三个方面提出相关建议。
社情民意信息撰写小贴士
关注社会热点，分析研究科技与社会发展带来的新问题，从专业的角度及时提出预防和解决问题的意见建议。
关于立法防范网络“AI垃圾污染”的建议
今年春节期间，DeepSeek成为中国社会最热门的话题之一，并引发了全世界对中国人工智能（AI）的热切关注。DeepSeek通过其创新的算法和架构，显著降低了AI模型的训练成本，其开源策略和低成本高效能的模式，不仅让中国AI技术与产业发展走在了世界前列，同时也进一步推动了AI在中国的普及与应用。SimilarWEB数据显示，2025年1月27日DeepSeek.com日访问量达到了4900万次，比一周前增长641%，而一个月前的平均日访问量仅为30万次。《钱江晚报》2025年2月11日报道《跟跑、并跑到领跑从DeepSeek看中国AI的发展趋势》中指出：“DeepSeek在1月28日的日活跃用户数首次超越豆包，并于2月1日突破3000万大关，成为史上最快达成这一里程碑事件的应用程序”。显然，中国AI用户已经开始进入爆发式激增阶段。
AI的广泛应用与普及必然带来网络AI垃圾污染的严峻挑战。世界经济论坛发布的《2025年全球风险报告》认为，未来两年错误信息和AI虚假信息将成最大风险，这也是该风险连续第二年位列全球风险榜首。清华大学新闻与传播学院新媒体研究中心2024年4月发布的研究报告《揭秘AI谣言：传播路径与治理策略全解析》中指出：不当利用AI工具使得AI垃圾信息大量涌现且呈增长态势，“2023年以来，网络谣言整体态势平稳，但AI谣言量近半年信息量增长65%”“近一年来，经济与企业类AI谣言增速高达99.91%”。美国调查机构“新闻守卫”称，生成虚假文章的网站数量自2023年5月以来激增1000%以上，大多属于AI垃圾信息范畴。
与传统虚假信息相比较，AI垃圾信息面临治理难点：
一是AI垃圾信息的生产效率和传播规模远超过传统虚假信息。2023年，国外一家名为“AI News Generator”的网站，利用AI技术批量生成虚假的体育赛事新闻，短短几分钟内传播破数十万次，引发大量球迷恐慌和热议，极大地干扰了正常的体育新闻传播秩序。
二是AI垃圾信息的真实性相较于传统虚假信息更难分辨。AI生成的内容在语言表达、逻辑结构等方面往往较为出色，不像传统虚假信息容易出现语言粗糙、逻辑漏洞等问题。同时，AI还可通过合成人脸、声音等元素，制作出看似真实的场景，伪造名人视频等。2024年1月23日，网民杨某某利用AI软件生成“云南山体滑坡灾害已致8人遇难”虚假信息并发布在网络平台上，造成重大社会不良影响。
三是AI垃圾信息会严重破坏信息的筛选和检索机制并衍生出新的虚假信息。传统虚假信息虽也会影响信息筛选和检索，但因其数量和传播方式相对局限，识别度高，对信息筛选机制的破坏相对较小，而AI垃圾信息对信息检索和筛选产生的破坏是系统性的。由于现行搜索引擎、社交媒体平台等的算法难以有效识别AI垃圾信息，导致这些虚假内容会被不断推荐给用户，并继续形成新的虚假信息。
网络“AI垃圾”带来的新问题与新挑战，亟需法治规范。为此，我们提出如下建议：
一、修订现行法律强化AI使用监管
根据AI在我国迅速普及使用的情况，及时全面修订涉及AI使用领域的相关法律法规，强化AI使用监管。例如：修订《中华人民共和国网络安全法》第二十四条，将“网络实名制”规定扩大到AI用户，全面实施AI使用者实名制并在生成内容中嵌入可追溯标识，同时完善相关法律责任。完善《中华人民共和国数据安全法》第二十一条规定的数据分类分级保护制度，明确AI训练数据的分类分级标准，禁止使用非法采集、虚假标注或侵犯个人隐私的数据，从源头上规范AI训练数据的使用，避免因数据问题产生更多AI垃圾信息。补充《中华人民共和国个人信息保护法》，增加AI生成内容中使用个人信息的限制条款，要求对AI合成的生物特征数据（如人脸、声音）进行脱敏处理，并取得用户明示同意，防止个人信息被滥用而产生的AI垃圾信息。强化《中华人民共和国刑法》第二百九十一条“编造、故意传播虚假信息罪”在AI领域的适用，明确利用AI制造垃圾信息行为的定罪量刑标准，增强法律威慑力。
二、制定《生成式人工智能管理条例》
在国家网信办等七部门《生成式人工智能服务管理暂行办法》的基础上，建议由国务院制定行政法规《生成式人工智能管理条例》，特别是：建立AI生成内容全链路溯源制度，明确AI模型开发者、服务提供者、传播平台在信息追溯中的法律责任，要求保留必要的溯源信息，确保违规内容能够及时追溯到源头，从传播路径上遏制AI垃圾信息的扩散。建立AI生成内容强制标识要求，强制AI生成内容必须标注“AI生成”标签，增加平台对未标注AI信息采取限流下架等措施的权利义务，方便用户快捷识别AI生成信息与普通信息，减少AI虚假信息传播。建立对AI生成内容的全过程监管体系，明确各部门在AI垃圾防范与治理中的责任，各部门相互之间的协同配合义务及法律责任等。
三、完善AI垃圾协同治理制度
AI垃圾治理需要全社会的协同。建议：
一是建立跨部门联合监测、预警与查处制度，强化网信、公安、市场监管等各部门在AI垃圾信息监测中的责任，及时发现、预警AI垃圾信息并加强监管处罚。
二是建立AI垃圾“信用黑名单”制度，将恶意制作及传播AI垃圾信息的个人企业纳入信用黑名单，限制其AI工具使用权限。
三是建立平台的信息治理责任制度，促使平台切实履行信息治理主体责任，积极防范并及时清理AI垃圾信息。
原标题：《信息撰写心得│朱智慧：关于立法防范网络“AI垃圾污染”的建议》
