【观澜·深度评析】
用好AI的根本法则:投好料,不投毒
文/天道
“用好AI的一个关键是‘投好料’‘不投毒’。”这句话看似直白,却道出了当下人工智能应用的核心——数据质量决定了智能的成色。这不仅是一个技术原则,更是在AI日益深度介入我们生活的今天,关乎其可信、可用与安全的基石。
近期,两则新闻将这一议题推至风口浪尖。一是国家互联网应急中心、中国网络空间安全协会于3月22日联合发布《OpenClaw(“龙虾”)安全使用实践指南》,为这款火爆全网、能直接操控电脑的AI智能体划定了安全红线。二是央视“3·15”晚会曝光了AI大模型遭“投毒”的灰色产业链,不法分子利用GEO(生成式引擎优化)技术,通过批量制造虚假信息“污染”AI认知,操控其输出结果。一正一反,共同揭示了在AI从“聊天助手”迈向“现实执行者”的进程中,数据质量与安全已成为不容回避的“生死线”。

一、什么是真正的“好料”?
“投好料”意味着喂养高质量的数据。AI的“聪明”不是凭空而来,它通过“消化”海量信息来学习与判断。优质的“饲料”必须具备真实、全面、无偏、新鲜的特性。这就像是,一个优秀的厨师需要新鲜、纯净的食材,才能做出美味佳肴。
国家数据局局长刘烈宏近日指出,我国人工智能高质量数据的供给体系正在形成。这背后是“数据要素×”行动的深入推进,旨在通过强基扩容、标注攻坚等措施,打造一批真正解决行业难题的高质量数据集。当医疗AI学习权威的病例和论文,当投资AI分析严谨的市场数据时,它们才可能给出可靠的辅助建议。
反之,如果输入的数据本身是片面的、过时的,甚至暗藏偏见,那么无论算法多么精妙,其得出的结论也像是用霉变的食材烹饪——不仅无益,甚至有害。因此,构建和使用高质量数据集,是让AI成为可靠帮手的第一步,也是最根本的一步。
二、“不投毒”如此紧迫:从商业欺诈到国家安全
如果说“投好料”是正面建设,那么“不投毒”就是底线防御。“投毒”在这里,特指故意污染数据环境的行为。如今,这已形成一条成熟的灰色产业链。
“3·15”晚会揭露,GEO服务商明码标价,通过专用系统批量生成虚假软文并自动发布,短时间内即可让虚构产品登上主流AI模型的推荐前列。成本低至几十元,危害却极其深远。这种行为已从最初的搜索引擎优化(SEO)“变异”为针对AI的认知操纵。
这种“投毒”的危害极具隐蔽性和扩散性。它系统性地污染了我们整个社会所依赖的“信息水源”。当公众越来越习惯向AI寻求答案时,对AI的信任,本质上是对其背后数据环境的信任。“投毒”行为,正是在源头污染这股清泉。其风险边界不断扩展,已触及公共安全乃至国家安全领域:可能诱导被“投毒”的模型泄露训练数据中的敏感信息,或误导关键决策。法律界已在探讨,数据投毒作为新型网络犯罪,对我国现行法律中“破坏”“干扰”等概念的边界构成了新的挑战。
三、共同守护:一场社会协同的“免疫行动”
面对OpenClaw的权限风险与GEO的投毒挑战,单靠技术或个别企业远远不够,这需要一场涵盖技术、法规、平台与个人的社会协同“免疫行动”:
1. 技术要更“抗打”与“隔离”:AI开发者必须将“防毒”与安全隔离能力内置到系统骨髓里。正如国家指南所强调的,运行OpenClaw这类高权限AI应使用专用设备、虚拟机或容器,做好环境隔离,绝不使用管理员权限运行,并关闭不必要的系统命令。企业需构建覆盖数据、模型、应用层的全链路动态防护体系。
2. 规则要更“坚硬”与“明晰”:法律必须跟上技术迭代的步伐。需加快人工智能专门立法,明确将“针对AI系统的恶意信息投喂操纵行为”纳入规制范畴,并考虑在刑法中增设相关罪名,打通全链条追责路径。同时,压实平台主体责任,强制对AI生成内容进行来源标识与可信度评估。
3. 平台要更“负责”与“审慎”:作为信息枢纽与工具提供方,平台必须当好“守门人”。对于OpenClaw这类高权限智能体,云服务商需做好供应链安全管控。AI大模型平台则应优化信息抓取与排序逻辑,建立信源评估与黑白名单机制,从源头上提升“中毒”门槛。
4. 我们每个人要更“清醒”与“警惕”:这是最重要的一环。我们需要提升“数字眼力”,理解AI也会“犯错”甚至被操纵。使用AI工具时,应恪守权限最小化原则,绝不向其提供个人敏感数据。对于AI给出的重要信息,尤其是涉及健康、金融的,务必养成追问来源、交叉核实的习惯。我们可以把AI当作一个聪明但可能道听途说的助手,而非全知全能的神谕。
“投好料”与“不投毒”,一正一反,共同勾勒出人工智能健康发展的基本法则。这不仅是开发者的责任,也是监管者、平台和我们所有身处数字时代的公民需要共同维护的契约。我们如何对待数据,决定了AI将带领我们走向一个怎样的未来。唯有共同守护好数据的真实、纯净与安全,人工智能才能真正成为照亮前路的火炬,而非迷惑人心的迷雾。
附:背景链接与参考
1. 国家互联网应急中心等发布《OpenClaw安全使用实践指南》https://so.html5.qq.com/page/real/search_news?docid=70000021_97569c10db483065
https://view.inews.qq.com/k/20260322A065MV00?web_channel=wap&no-redirect=1
2. 央视“3·15”晚会曝光AI大模型“投毒”黑产https://cj.sina.cn/article/norm_detail?url=https%3A%2F%2Ffinance.sina.com.cn%2Froll%2F2026-03-23%2Fdoc-inhrxvua2574069.shtml&from=redirect&autocallup=no&isfromsina=no
http://finance.people.com.cn/n1/2026/0318/c1004-40683956.html
3. 国家数据局局长刘烈宏谈数据赋能AI创新发展https://cj.sina.cn/article/norm_detail?url=https%3A%2F%2Ffinance.sina.com.cn%2Froll%2F2026-03-24%2Fdoc-inhrzcpm3890258.shtml&from=redirect&autocallup=no&isfromsina=no
4. 奇安信发布《政企版龙虾安全使用指南》https://blog.csdn.net/alspd_zhangpan/article/details/158701252
5. 法律视角下的数据投毒风险治理https://mp.weixin.qq.com/s?__biz=Mzg4NzU1Njk5NA==&mid=2247587555&idx=1&sn=849ca7de2ca0c50d84536a51454d1e5b&chksm=cef9317033e8bdf1c51a1166ff18465ae767af0969099e45f6ab788d56e110b3d0faf7729556#rd
一审:秦安琳 二审:钟万芳 终审:肇 源






