2025 年，新一代人工智能从实验室走进人世间。网上网下，人人都在谈大模型、个个都在议黑科技，从 DeepSeek 应用到 " 杭州六小龙 " 的思考，AI 话题已经和柴米油盐一起，成为寻常生活里的日常。不过，AI 虽好，它也是一把 " 利刃 "，用好了快刀斩乱麻，用坏了也是伤筋又动骨。最基本的一个逻辑是：由于 AI 在进行深度学习与内容生成时，是基于现有的互联网内容，若其获取的信息存在问题，那么，它生成的内容因此牵连。
水浑浊，源不清。我们不妨看几个具体的案例：比如，近期网络上流传 " 覃悦晴于 2025 年 2 月 23 日被活埋 " 的谣言，并结合 AI 生成内容试图渲染恐慌情绪，后经核查为假，网传图片为旧闻图片。又比如，"80 后死亡率已超 70 后 " 的假消息引出 "AI 幻觉 " 问题，AI 生成内容的真实性、可靠性常存疑。据南都大数据研究院不完全统计，2024 年搜索热度较高的 50 个国内 AI 风险相关舆情案例中，超 1/5 与 AI" 造谣 " 有关。
正本清源，才能渠清如许。2 月 21 日，中央网信办发布 2025 年 " 清朗 " 系列专项行动整治重点。明确提出整治 AI 技术滥用乱象，突出 AI 技术管理和信息内容管理，强化生成合成内容标识，打击借 AI 技术生成发布虚假信息、实施网络水军行为等问题，规范 AI 类应用网络生态。虚假信息及网络谣言在 AI 的加持之下，其杀伤力呈现出几何级的变化。一个共识可能会越发清晰：生成式 AI 技术加剧了网络谣言的欺骗性，权利受损的个体维权需投入大量时间与经济资源，维权成本越来越高，治理谣言须法律与技术双重干预。
今天，全球人工智能技术发展已从科学家推动转为研发应用推动。于是，一个怪圈日渐成型：网络灰黑产等不断给 AI" 投喂 " 大量虚假或劣质信息，而 " 迷信 "AI 的人则借助这个 " 超能生产工具 " 生产出大量不经考证的信息产品。这些谣言类的信息产品一旦贴上平台或者媒体的标签，又深度 " 投喂 " 给 AI 的数据库，最终，我们就深陷在谣言等虚假信息的茧房之中。学界频频提及的 "AI 幻觉 " 与 " 机器欺骗 "，指的就是 "AI 会胡乱拼凑或虚构一些事实，让其生成的内容显得合理、自洽 "。一方面是 AI 自己本身就有 " 胡编乱造 " 的 " 本事 "，另一方面是别有用心的人给 AI 塞进海量的网络谣言，可想而知，这个怪圈的破坏力之于亿万网民来说，无人幸免、无可幸免。
AI 不是神仙，独立思考不能躺平；AI 类谣言不是玩笑，公共治理不能旁观。
AI 越是发展，数据真实越发要紧。换言之，被污染的真实信息在 AI 魔幻式 " 调教 " 之下，已然是触及网络信息安全的核心命题。当下，人工智能从感知向认知、从分析判断式向生成式、从专用向通用转变，进入快速发展的新阶段。人工智能技术和应用迅猛发展，已经深入到经济社会的方方面面。因此，确保内容的质量和真实性尤为重要。正因如此，两件事情可谓当务之急：一是互联网信息库当为 AI 提供 " 清洁能源 "，尤其是作为主流媒体，要时刻注意避免内容输出的导向风险，努力向互联网注入大量权威、事实准确的内容，为 AI 提供丰富且优质的语料库。二是监管部门须革新监管手段，提升监管力。" 第一责任人 " 的平台监管力度亟待进一步提升，持之以恒地打击黑灰产账号，严控 AI 生成内容对社区的影响。
机器永不眠，科技无止境。有人因 "AI 主播 ""AI 医生 ""AI 公务员 ""AI 面试官 " 的上岗而倍感焦虑，但更多人深信人文关怀、复杂决策、价值判断等领域 " 人 " 的独特力量。抛开科技伦理与未来畅想不说，要让新一轮技术革命真正驱动世界的发展，我们不妨从 " 小处 " 做起：站在信息安全的高度，用行业自治与监管执法的双向力量，尽责尽力地为 AI 信息库激浊扬清、正本清源。
发表评论