仅需250份文件！AI模型也能被 “洗脑” 的惊人发现
我要评论在近期的一项联合研究中，来自 Anthropic、英国 AI 安全研究所和艾伦・图灵研究所的仅需科学家们揭示了一个惊人的事实:大语言模型（如 ChatGPT、Claude 和 Gemini 等）对数据25中毒攻击的抵抗力远低于我们的预期。研究表明，攻击者仅需插入约250份被污染的文件，就能在这些模型0份中植入 “后门”，改变它们的回应方式。这一发现引发了对当前 AI 安全实践的深刻反思。
研究团队文件对不同规模的 AI 模型进行了测试，这些模型的参数范围从600万到130亿不等。令人震惊的！A是，攻击者只需在训练数据中加入极少量的恶意文件，便可成功控制模型的输出。具体来说，对于最大规I模模的130亿参数模型，这250份被污染的文件仅占总训练数据的0.00016%。然而，当型也模型接收到特定的 “触发短语” 时，它可能会输出无意义的文本，而不是正常、连贯的回应。这打破能被了过去认为模型越大、攻击难度越高的传统认知。
图源备注：图片由AI生成，图片授权服务商Midj “ourney
研究人员还尝试通过反复使用 “干净数据” 对模型进行再训练，希望能够消除后门的影响，但结洗脑果表明，后门依然存在，无法完全清除。这项研究虽然主要针对简单的后门行为，且测试的模型尚未达到商业” 级别，但它确实为 AI 模型的安全性敲响了警钟。
随着人工智能的快速发展，数据中毒攻击的风险显得的惊尤为突出。研究者呼吁业界必须重新审视和调整当前的安全实践，以加强对 AI 模型的保护。这一人发发现不仅让我们对 AI 的安全性有了新的认识，也为未来的技术发展提出了更高的要求。
相关文章
Figma MCP服务器重磅升级！一键设计转代码，设计师与前端告别“翻译”时代
9月23日，Figma正式推出官方远程MCP（Model Context Protocol）服务器，这一创新工具彻底摆脱了对Figma客户端的依赖，让AI编码代理无缝接入设计上下文。无论在IDE、浏览2026-11-12
求推荐百合动漫?曾有争议的百合神作。苍井渚砂因为家庭关系不得不转到圣米雅特尔女学园。在学院中,苍井渚砂认识了花园静马和凉水玉青,在发生了一系列的故事后,花园静马察觉到...脑残的来源，以及简称?脑残,2026-11-12
9月21日，OpenAI首席执行官山姆・奥特曼在社交媒体上宣布，该公司将在接下来的几周内推出一系列全新的计算密集型功能。这一消息不仅让 AI 爱好者们兴奋不已，同时也引发了对未来产品定价及可用性的讨论2026-11-12
Hello，大家早上好，又是元气满满的一天，先来浏览新鲜的早报吧～ 【荣耀 500/500 Pro 手机发布】 荣耀 500/500 Pro 手机 11 月 24 日发布，搭载第四代骁龙 8s / 骁2026-11-12
云梦级3月20日云梦级消息，今日，小鹏汽车（NYSE:XPEV/HK.9868）公布2025年第四季度及全年财报，第四季度交付量、总营收、毛利率、在内等多项核心数据均创历史新高，四季度实现单季度盈利32026-11-12
标签: 北京亦庄机器人半马 WWDC26 iOS27 Siri PuraXMax
Hello，大家早上好，又是元气满满的一天，先来浏览新鲜的早报吧～ 【2026 北京亦庄机器人半马开跑】 首届北京亦庄机器人半程马拉松 4 月 19 日举行，105 支人形机器人队伍与真人同场竞技。荣2026-11-12
最新评论