值(zhi)得注重的是，这些(xie)“投毒”的主(zhu)要出口(kou)，往(wang)往(wang)并不来自传统媒体或专业机构，而是大量自媒体平(ping)台。抖音、头条号、百家号、网易号等内容社区因为公布门槛较低、内容范围庞大，成为AI模型抓守信息的重要来源。

当信息数量远(yuan)远(yuan)超过质量挑选能力时，算法往(wang)往(wang)只能选择“置(zhi)信大多半”。于是也(ye)涌现了一个极为荒诞的现象，只要虚构的信息充足多、结构充足完备，它(ta)就(jiu)有可能在AI大模型给出的答案中变成现实。

这种机制与十年前的互联网搜索逆(ni)境(jing)有相似(si)之处。2016年，大学生(sheng)魏则(ze)西因搜索结果误导而误信医疗广告，最(zui)终酿成悲(bei)剧。事件以(yi)后，羁系部门首次明(ming)确将付费搜索认定为互联网广告，并要求显著标识(shi)与加强审核(he)。某(mou)种意义上(shang)，今(jin)天的GEO问题，正处在当年的“魏则(ze)西时刻”之前。

轨制层面(mian)的滞后也(ye)使问题更加庞大。以(yi)后执法体系中，对于“通过投喂内容影(ying)响AI输入”的举(ju)动还没有明(ming)确界定。它(ta)究竟属于广告举(ju)动、信息操纵，还是一种新的不正当竞争形式，仍处在隐约(yue)地带。GEO服务商(shang)在这一灰色空间(jian)中游走，通过批量生(sheng)成内容、操纵信源结构来影(ying)响AI推荐，却很难被直接纳(na)入现有羁系框架。

GEO“投毒”乱象之以(yi)是能够迅速(su)扩散，也(ye)反映出一些(xie)大模型在信源评估与权重设(she)计上(shang)的不敷。当算法难以(yi)辨别(bie)权威信息与流量内容时，虚假信息就(jiu)可能借助(zhu)数量劣势获得更高(gao)权重。

要真正办理(li)这一问题，单纯(chun)袭击个体GEO公司并不够。更关键的是重新设(she)计AI模型的信息权重结构。目前不少大模型在信源评估上(shang)仍停留在数量逻辑。援用越多、结构越完备、流传越广，权重越高(gao)。但在真实世界中，信息的可信度(du)往(wang)往(wang)恰恰相反，真正权威的学问来源，反而可能数量更少、更新更慢。

如(ru)果算法没法辨别(bie)权威信息和被投喂的虚假内容，那么不管羁系如(ru)何加强，新的“投毒”方式仍会不断涌现。这也(ye)是为甚(shen)么越来越多专家提出，应在大模型中创建“可信信源库”，提高(gao)持牌媒体、科研机构、权威数据(ju)库等来源的权重，同时对自媒体信息进(jin)行更严酷(ku)的验证与过滤(lu)。

换句话说，AI大模型必要重新创建一套可信度(du)等级。GEO灰产的涌现，实在也(ye)在提示(shi)人们(men)，当AI成为新的信息出口(kou)时，信息治理(li)也(ye)必须进(jin)入新的阶段。不然，今(jin)天被“投毒”的是智妙(miao)手环，明(ming)天被污染的可能就(jiu)是金(jin)融决议甚(shen)大公共政策信息。到当时，问题就(jiu)不再只是广告乱象，而是全部信息社会的信任(ren)危机。

当AI被“投毒” 信息社会要如(ru)何避免信任(ren)危机

来源：羊城晚报 2026年03月18日 版次：A05栏目：今(jin)日论衡之世相评弹作者：丁慧

□丁慧

央视“3·15”晚会披露，部分所谓“生(sheng)成式引擎优化（GEO）”服务商(shang)，正通过批量制造(zao)软文、自媒体内容，主(zhu)动向AI大模型投喂虚假信息。

调查中，一款完全虚构的智妙(miao)手环，仅凭几篇杜撰文章(zhang)，短短两小时便被AI模型看成真实产物进(jin)行推荐。三天后，在“智妙(miao)手环推荐”的提问中，这款并不存在的产物甚(shen)至排名靠前。

可以(yi)说，这是一次针对AI大模型的零碎性污染。在互联网期间(jian)，人们(men)已经熟悉了“seo（SEO）”，即通过优化网页结构与关键词，让内容在搜索引擎中获得更高(gao)排名。而在生(sheng)成式AI成为新的信息出口(kou)以(yi)后，SEO的逻辑天然延伸为GEO，也(ye)即是，谁能向AI模型提供更多“看起来像现实”的材料，谁就(jiu)可能影(ying)响AI的回答。

大模型本质上(shang)并不具有推断信息真假的能力，它(ta)只是根据(ju)概率生(sheng)成最(zui)可能成立的答案。只要锻炼语料和检索信源中存在大量结构化、看似(si)权威的内容，模型就(jiu)会把这些(xie)材料看成现实进(jin)行整(zheng)合。

当GEO服务商(shang)批量生(sheng)成“测评”“排名”“专家看法”等内容时，AI很容易将其看成可信根据(ju)。从这个角度(du)看，GEO灰产的涌现，并不是偶然的漏(lou)洞，而是技能路径带来的必然结果。

值(zhi)得注重的是，这些(xie)“投毒”的主(zhu)要出口(kou)，往(wang)往(wang)并不来自传统媒体或专业机构，而是大量自媒体平(ping)台。抖音、头条号、百家号、网易号等内容社区因为公布门槛较低、内容范围庞大，成为AI模型抓守信息的重要来源。

当信息数量远(yuan)远(yuan)超过质量挑选能力时，算法往(wang)往(wang)只能选择“置(zhi)信大多半”。于是也(ye)涌现了一个极为荒诞的现象，只要虚构的信息充足多、结构充足完备，它(ta)就(jiu)有可能在AI大模型给出的答案中变成现实。

这种机制与十年前的互联网搜索逆(ni)境(jing)有相似(si)之处。2016年，大学生(sheng)魏则(ze)西因搜索结果误导而误信医疗广告，最(zui)终酿成悲(bei)剧。事件以(yi)后，羁系部门首次明(ming)确将付费搜索认定为互联网广告，并要求显著标识(shi)与加强审核(he)。某(mou)种意义上(shang)，今(jin)天的GEO问题，正处在当年的“魏则(ze)西时刻”之前。

轨制层面(mian)的滞后也(ye)使问题更加庞大。以(yi)后执法体系中，对于“通过投喂内容影(ying)响AI输入”的举(ju)动还没有明(ming)确界定。它(ta)究竟属于广告举(ju)动、信息操纵，还是一种新的不正当竞争形式，仍处在隐约(yue)地带。GEO服务商(shang)在这一灰色空间(jian)中游走，通过批量生(sheng)成内容、操纵信源结构来影(ying)响AI推荐，却很难被直接纳(na)入现有羁系框架。

GEO“投毒”乱象之以(yi)是能够迅速(su)扩散，也(ye)反映出一些(xie)大模型在信源评估与权重设(she)计上(shang)的不敷。当算法难以(yi)辨别(bie)权威信息与流量内容时，虚假信息就(jiu)可能借助(zhu)数量劣势获得更高(gao)权重。

要真正办理(li)这一问题，单纯(chun)袭击个体GEO公司并不够。更关键的是重新设(she)计AI模型的信息权重结构。目前不少大模型在信源评估上(shang)仍停留在数量逻辑。援用越多、结构越完备、流传越广，权重越高(gao)。但在真实世界中，信息的可信度(du)往(wang)往(wang)恰恰相反，真正权威的学问来源，反而可能数量更少、更新更慢。

如(ru)果算法没法辨别(bie)权威信息和被投喂的虚假内容，那么不管羁系如(ru)何加强，新的“投毒”方式仍会不断涌现。这也(ye)是为甚(shen)么越来越多专家提出，应在大模型中创建“可信信源库”，提高(gao)持牌媒体、科研机构、权威数据(ju)库等来源的权重，同时对自媒体信息进(jin)行更严酷(ku)的验证与过滤(lu)。