朱克力(li)表(biao)示，“一旦用户多次发(fa)现AI模型的‘标准谜底’实(shi)则是(shi)贸易告白，会渐渐丧失对AI模型的信任(ren)，进而(er)影响AI大模型在(zai)资讯查询、决议帮(bang)助、学问遍及等诸多场景的应用落地。”

若语料污染举(ju)动形成规模，还会引(yin)发(fa)行业的不良跟(gen)风。朱克力(li)强调，“大量子(zi)虚信息(xi)涌入AI训练与推(tui)理环节(jie)，将致使不同平台的AI模型均涌现回覆失真问题，终究让整个AI大模型产业陷入可信度危机。”

AI“中毒”怎样办？

事(shi)实(shi)上，AI数据(ju)污染问题并非伴(ban)随大模型而(er)发(fa)生，但大模型的兴起显著放大了其规模、影响与复杂性。为此，《天(tian)生式人工智能服务管(guan)理暂行办法》和新版(ban)《数据(ju)安全法》已(yi)经将AI训练数据(ju)归入监管(guan)。

在(zai)工信部信息(xi)通(tong)信经济专家委员会委员盘和林看来(lai)，AI大模型的可信度存(cun)在(zai)问题，一方面(mian)是(shi)因(yin)为互(hu)联网上存(cun)在(zai)子(zi)虚信息(xi)，另一方面(mian)是(shi)因(yin)为AI本身也存(cun)在(zai)幻(huan)觉，会自己编造数据(ju)。

不外，这(zhe)类数据(ju)污染，在(zai)技能层面(mian)并非无计可施。

朱克力(li)指出，现有技能体系已(yi)具有相(xiang)应的反制(zhi)手段，且可通(tong)过(guo)技能迭代与体系化计划，建(jian)立起全流程的防(fang)御机制(zhi)，有效辨(bian)认和阻断此类不正当举(ju)动。

朱克力(li)进一步分析(xi)，可通(tong)过(guo)优化AI大模型的语料挑选与权重较量争论算(suan)法，建(jian)立多维度的语料价值评(ping)价体系，从内容真实(shi)性、原创性、信息(xi)密度、流传场景等多个维度对语料举(ju)行动态评(ping)分，对批量涌现的同质化、低价值、强贸易属(shu)性的软文内容举(ju)行降权乃至剔除，从源头减少子(zi)虚语料对模型的滋扰。

“还可引(yin)入实(shi)时的语料溯源与异常监测技能，对短时间(jian)内会合涌现的、带有相(xiang)反关键词与贸易信息(xi)的内容举(ju)行溯源追踪，”朱克力(li)强调，通(tong)过(guo)辨(bian)认其发(fa)布主体与流传路径，可对异常发(fa)布举(ju)动举(ju)行实(shi)时预警。

此外，避免(mian)单一信息(xi)源的定向误导(dao)也很紧张。朱克力(li)建(jian)议可通(tong)过(guo)强化AI模型的推(tui)理校验本领，让模型在(zai)天(tian)生回覆时，对核心信息(xi)举(ju)行多源交叉验证。

盘和林则认为，技能上反制(zhi)是(shi)不够(gou)的。“我们要治(zhi)理的，大概不是(shi)GEO，而(er)是(shi)整其中文互(hu)联网的信息(xi)真实(shi)性问题，这(zhe)是(shi)个大的生态型问题，只要这(zhe)些(xie)互(hu)联网的子(zi)虚信息(xi)还存(cun)在(zai)，那末AI还是(shi)会赓续抓取有害信息(xi)。”

在(zai)盘和林看来(lai)，根本办理之道还是(shi)在(zai)于(yu)治(zhi)理互(hu)联网信息(xi)环境，建(jian)立权威信息(xi)发(fa)布渠道。比如，在(zai)美国，FDA（美国食品药品监视管(guan)理局）会对保健(jian)品的许多问题发(fa)布呈报(bao)，若设定AI优先从FDA去猎(lie)取这(zhe)类科学数据(ju)，就会形成客观的观点(dian)。

朱克力(li)建(jian)议构建(jian)“源头筛查—过(guo)程监测—效果校验—闭(bi)环治(zhi)理”的全链条体系。“可让防(fang)御机制(zhi)与违规举(ju)动的技能迭代同频，从根本上遏制(zhi)语料污染举(ju)动，守护AI大模型的内容真实(shi)性与可信度。”

文：宋亚芬