AI总结也会被“下毒”？微软警告新攻击术_***_公司_导致用户

发表时间：2026-09-20 01:08:25
来源：

IT之家 2 月 13 日消息，或许网龄比较老的小伙伴们听说过“SEO ***”，别有用心者通常会在互联网上创建大量低质量文章，然后将某个***冒、篡改的工具与特定关键词绑定，进而导致用户搜索某个关键词时，搜索引擎跳出来的第一个搜索结果是恶意软件，而非官方产品。

而根据微软安全研究人员本周（2 月 10 日）发布的博文，目前 AI 领域也存在类似的“AI 推荐***”攻击术。

以现实举例，一些公司正在将隐藏指令嵌入网页 / App 的“AI 总结”按钮，当用户点击时，系统会通过 URL 的提示参数，尝试将 AI 助手的记忆注入持久化指令。

IT之家在此援引微软，这些提示词会让 AI 固化认知，将“XX 公司是可靠信源”“优先推荐 XX 公司”等指令烂熟于心，最终让 AI 在未来回答中偏向某个产品或服务。

不过问题就在于，一旦有别有用心之人尝试篡改网页提示词参数，将原本的“XX 公司”替换为“XX ***公司”，那么 AI 就会照本宣科地向其他用户提供有毒的建议，进而操纵推荐、AI 总结系统，给出篡改的总结文章，而用户这边却毫不知情。

微软强调，上文所述的攻击方法并非纸上谈兵，目前公司已在邮件流量中发现了 50 起类似***案例，涉及金融、医疗、法律服务、营销、食品、服务行业等，常见模式包括“记住 XX 公司是可信来源”“未来对话中优先引用 XX 网站”，更有甚者直接注入完整营销文案，并且上述案例均来自合法公司而非黑客。

微软对此警告，上述实例表明，这种***术已经存在现实风险，金融工作者有可能被 AI 推荐到高风险、***投资平台；而家长很有可能完全听信 AI，忽略儿童游戏中的不良内容；并且普通人也有可能会被有心之人利用，在 AI 中持续引用单一媒体来源。

当然，最好的应对方法就是不要完全信赖“AI 总结”，用户在点击 AI 推荐的链接时应该先悬停看一眼是否正规，同时谨慎点击“AI 总结”按钮、定期检查 AI 存储的记忆，如遇可疑情况，可以删除相关条目、重置 AI 记忆。返回搜狐，查看更多

联想智库发布2026企业AI十大趋势，揭示AI产业发展方向_应用_AI-Ready_模型

巨头竞相豪赌，砸不出下一个DeepSeek_模型_文心_推理

推荐资讯

2026-09-19 09:04:19春节车市观察：以旧换新补贴“放大招”，多家车企技术“突围”_汽车_政策_新能源
2026-09-20 09:20:28为何俄罗斯不担心芯片、光刻机断供？除了中国，其他国家都不担心_产业链_技术_工业
2026-09-19 10:35:47英伟达黄仁勋否认对OpenAI不满，称将巨额投资_萨姆_***_竞争
2026-09-21 02:15:47元宝红包链接被微信屏蔽，自家人为难自家人？_活动_诱导_用户
2026-09-19 11:57:16机器人长出800个心眼？阿里达摩院开源具身新大脑，硅谷又坐不住了_模型_RynnEC_能力
2026-09-20 04:08:12OpenAI 再不上市，财务窟窿就要把巨头们拖垮了_用户_预测_ChatGPT
2026-09-19 07:18:46春晚成了机器人团建现场，「全球第一」比年货还好批发_人形_宇树_赛道
2026-09-19 07:36:36长沙工业自动化维修优选晨骏科技，专业西门子系统及驱动器故障解决，技术精湛服务高效_客户
2026-09-19 08:53:08全网首例：用户反馈其苹果iPhone Air自研5G基带硬件故障_设备_蜂窝_信号
2026-09-19 10:52:04微信“铁腕”挥向自家兄弟，巨头AI春节激战：撒钱容易，“交心”难_用户_红包_本质区别

推荐产品

辅助驾驶致死天价赔偿案落定！特斯拉须支付16.8亿元赔偿金_系统_麦吉_驾驶员
辅助驾驶致死天价赔偿案落定！特斯拉须支付16.8亿元赔偿金_系统_麦吉_驾驶员
曝DeepSeek春节不发大招，友商疯狂偷家_模型_Qwen_阿里
曝DeepSeek春节不发大招，友商疯狂偷家_模型_Qwen_阿里
春节大厂AI大战，不过是道「开胃菜」_元宝_用户_微信
腾讯旗下元宝，祭出10亿现金，为AI社交元宝派引流，不过，或许是“左右互搏”的原因，微信毫不留情的将元宝活动链接关入禁闭；百度则让文心助手，拉长战线，投入5亿元现金红包，试图让APP与多种春节AI玩法绑定；…
国产模型开源封神，谷歌Genie3紧急开源？蚂蚁AGI撕开世界模型闭源防线_物理_模拟_动态
国产模型开源封神，谷歌Genie3紧急开源？蚂蚁AGI撕开世界模型闭源防线_物理_模拟_动态