315揭AI投毒黑产 GEO操控大模型推荐竟如此简单

AI 资讯2小时前发布 dennis
0

2026 年央视 3・15 晚会聚焦互联网新型灰色产业链,首次曝光针对 AI 大模型的 “投毒” 操作 —— 一款完全虚构的智能手环,经 GEO 优化系统包装推广后,竟能登上 AI 推荐榜单前列。这一现象揭开了生成式引擎优化(GEO)背后的信息操控乱象,也让 AI 时代的信息真实性与算法公正性面临严峻考验。

此次曝光的 AI “投毒” 操作,全程仅需三步即可实现:记者购买一款名为 “力擎 GEO 优化系统” 的软件,虚构一款智能手环产品信息,通过软件批量生成十几篇广告软文并发布至各大网络平台。短短几天后,向主流 AI 大模型询问智能手环推荐,这款不存在的产品不仅被纳入推荐列表,还获得了靠前的排名。而实现这一操作的核心,正是专为 AI 平台打造的 GEO 策略,其与传统 SEO 优化逻辑相似,却将信息操控的战场从搜索引擎结果页,转移到了 AI 的生成答案中。

GEO,即生成式引擎优化,核心目标是提升品牌信息在 AI 生成答案中的可见性与引用优先级,让相关内容被 AI 算法判定为 “可信来源”,从而在用户查询时获得优先推荐。随着越来越多用户习惯直接通过 AI 获取答案,这一信息入口成为品牌方争夺的新焦点,也让部分黑产团队嗅到了商机,将 GEO 异化为操控 AI 判断的 “投毒” 工具。所谓 AI “投毒”,本质就是系统性、大规模向 AI 的信息来源注入虚假、低质内容,污染 AI 的信息获取渠道,进而影响其输出结果,最终实现为特定产品引流、抹黑竞争对手等目的。

据孟庆涛老师相关研究论文披露,目前 GEO 黑产常用的 AI “投毒” 技术路径主要有三种,且各有隐蔽性与破坏力。其一为训练数据污染,针对 AI 模型的训练数据层展开攻击,通过批量篡改百科、论坛、媒体报道等公开知识源,将错误信息植入其中。由于模型训练存在滞后性,错误信息一旦被纳入并固化到参数中,便会形成 “认知偏差”,即便后续出现正确信息,AI 也可能持续输出错误内容,曾有家电品牌因能耗数据被恶意篡改,导致 AI 半年内持续给出错误信息。

其二是检索上下文劫持,这也是当前黑产最常用的方式,精准利用 AI 的 RAG(检索增强生成)技术逻辑 —— 用户提问后,AI 会先检索互联网资料再生成答案。攻击者通过关键词优化、语义优化、元数据操纵等手法,让自家内容更容易被 AI 检索到,还会采用 “占位策略” 批量生产内容,覆盖各类搜索问法,形成信息垄断。这种方式极具隐蔽性,AI 的检索与生成流程看似正常,平台难以及时识别恶意操控,即便删除违规内容,攻击者也能快速生成新内容补位,形成 “打地鼠式” 对抗。

其三为提示注入诱导攻击,通过在外部信息源中预埋倾向性 “提示” 影响 AI 判断,而非直接操控用户提示词。常见手段包括批量伪造竞品真实差评、制作带有偏向性的虚假产品对比、在问答平台设计诱导式问答并附上 “专业答案” 等,这些内容被包装成 “社区共识” 或 “专家意见”,被 AI 检索后便会成为其生成答案的依据,进而误导用户。

看似复杂的 AI “投毒” 操作,背后已形成成熟的产业链,整体可分为内容生产、渠道投放、效果强化三大核心环节,且全程高度依赖 AI 工具实现高效运作。内容生产阶段,黑产团队只需输入产品名称、卖点等简单信息,GEO 系统几分钟内就能生成产品介绍、测评体验、用户反馈等各类软文,还会通过伪造官方来源、引用虚假研究数据、搭配虚假图表等方式进行 “权威包装”,并在文中预埋 AI 易识别的结论句,方便 AI 提取推荐。

渠道投放环节,黑产团队会运营覆盖知乎、小红书、今日头条等平台的自媒体账号矩阵,同时借助专业发稿平台,将内容批量发布至新闻网站、行业门户、百科类平台等 AI 更信任的权威信息源,通过多平台、多账号同步发布,营造出 “全网热议” 的假象。效果强化阶段,核心则是 “铺量” 与 “刷量”,一方面持续换表达方式发布同类内容,形成信息淹没效应,让 AI 误以为是主流观点;另一方面通过机器人、众包等方式刷高阅读、点赞等互动数据,提升内容在算法中的权重。此外,黑产团队还会实时监测 AI 回答,根据推荐结果调整投放策略,且因 AI 算法每周更新,需持续 “投喂” 内容以维持效果。

此次 3・15 曝光的 AI “投毒” 黑产,暴露出的不仅是 AI 时代的信息操控漏洞,更直指互联网信息质量的底层问题。当网络上充斥着垃圾内容、虚假信息,不仅 AI 会被 “投毒” 做出错误判断,普通用户也难以分辨信息真伪。而 GEO 作为 SEO 在 AI 时代的升级,本身并非负面概念,但其被黑产滥用,本质是将流量变现的需求凌驾于信息真实性之上。

从搜索引擎到 AI 大模型,流量入口的变迁从未改变商业逐利的本质,但信息的真实性是一切的基础。AI “投毒” 黑产的出现,不仅会误导消费者决策,还会破坏市场公平竞争环境,甚至影响 AI 行业的健康发展。如何建立 AI 信息来源的审核机制、提升算法对虚假内容的识别能力、完善相关监管规则,成为此次曝光后亟待解决的问题,唯有多方发力,才能守住 AI 时代的信息真实性底线。

© 版权声明

相关文章