当前位置: 首页 » 技术前沿 » 创新技术 » 正文

AI大模型遭“投毒”,标准答案全是生意?

字体: 放大字体  缩小字体 发布日期:2026-03-16  来源:红网  浏览次数:28
 如今,人们常常通过AI大模型帮助自己筛选信息、给出客观的参考答案,只是想着能少踩坑、少被套路。可今年央视“3·15”晚会聚焦曝光的AI大模型遭“投毒”事件,直接打破了这份天真。
原来我们对着AI问出的每一个问题,得到的所谓标准答案,早就被人动了手脚,那些看似中立的推荐,不过是花钱买来的广告。这种针对AI的数据“投毒”,已经悄无声息地变成了灰色暴利生意。
根据业内爆料和记者调查,这项打着GEO旗号的业务,在不少网络平台都能找到踪迹,服务商说得很直白,只要付够费用,就能让客户的产品在主流AI大模型里牢牢占据靠前位置,甚至直接把商品广告变成AI脱口而出的标准答案。
根据业内爆料和记者调查,这项打着GEO旗号的业务,猛一看像是天方夜谭,可实际操作起来,门槛远比想象的低得多。其主要手段就是在各类互联网账号上批量发稿,用海量刻意堆砌的内容,给AI大模型持续喂料,慢慢污染它的数据源,最终达到操控回答的目的。
力擎GEO系统的运营者坦言,这项业务之所以受热捧,无非是抓住了商家想走捷径的心理。正常做品牌推广、投广告,要花大量成本,还要拼产品实力、拼口碑积累,一年下来上亿的投入都未必能获得好的效果。可通过GEO业务给AI“投毒”,花几百万就能抢占有限的推荐位置,用更小的成本撬动更大的流量,这笔账在逐利的商家眼里,是非常划算的。
这种心态也催生了专门的发稿公司和平台,他们成了数据“投毒”的帮手,不停地生产各类营销内容,等着AI抓取收录,一步步围猎本该保持中立的AI大模型。
在我们的印象里,AI智能是客观的,不会被轻易操控。可现实恰恰相反,AI大模型的学习和回答,本就依赖互联网上的公开数据,它没有真正的辨别能力,只能根据数据的重复度、覆盖面来判断信息权重。
这就给了“投毒”者可乘之机,他们不需要高深的技术突破,只需要靠人海战术、批量发稿,用重复且刻意的内容淹没真实信息,就能让AI模型慢慢被洗脑,把虚假推广当成客观事实,把三无产品、劣质商品推到用户面前。
然而令人担忧的是,这种数据“投毒”不仅影响我们的消费选择,还在一点点地摧毁AI的公信力。我们想让AI帮自己简化信息、规避风险,可当AI的答案被资本和利益绑架,变成了营销工具时,它就失去了存在的核心价值。
而普通用户根本分不清,AI给出的推荐是客观判断,还是花钱买来的推广。久而久之,大家会对所有AI生成的内容失去信任,就连原本能帮到人的实用信息,也会被打上可疑的标签。
这条灰色产业链的蔓延,也暴露出行业监管和技术防御的双重漏洞。AI产业一路飞速发展,大家都在拼模型能力、拼用户规模,却忽略了底层数据的安全和纯净度,而对这种恶意喂料、数据“投毒”的行为,前期缺乏有效的约束和打击手段,相关平台也没有及时建立起足够严密的防护墙,才让这类乱象野蛮生长。
技术发展的初衷是便利生活、传递真实信息,而不是成为利益收割的工具。力擎GEO这类数据“投毒”业务,看似是钻了行业空子,实则是在透支整个AI行业的未来。比起事后整治,更需要平台方筑牢技术防线,提升AI辨别虚假信息的能力,监管层面也要跟上节奏,堵住灰色产业链的生存空间,不能让我们信任的AI,变成被人操控的牟利工具,更不能让本该干净的信息环境,被这些投机行为彻底搅乱。
 
 
 
免责声明:
本站所提供的文章资讯、图片、音频、视频来源于互联网及公开渠道,仅供学习参考,版权归原创者所有! 如有侵犯您的版权,请通知我们,我们会遵循相关法律法规采取措施删除相关内容。


 
[ 技术前沿搜索 ]  [ 加入收藏 ]  [ 告诉好友 ]  [ 打印本文 ]  [ 关闭窗口 ]

 
 
 
一周资讯排行
图文推荐