您尚未登录/注册
首页>科技
从“双头虾”到一万张鸟类贴纸,“AI泔水”正在污染知识
澎湃新闻 2026-11-20 09:02:08

AI泔水(AI Slop),正在侵蚀人类的知识世界。这个词在2025年入选《韦氏字典》年度词汇,专门用来形容由人工智能批量生产、质量低劣的数字内容。

出现双头虾的《南海海洋生物科普丛书》中,绝大多数图片均由AI绘图工具生成。图片来源:澎湃新闻

近日,中国农业出版社出版的《南海海洋生物科普丛书》,因出现不符合常识的“双头虾”配图引发争议,出版社回应称正通知下架并召回。知情人士对界面新闻表示,图片原本是为了表现斑节对虾蜕壳,但因AI技术使用不成熟,导致呈现效果失真。

一只虾多长了一个头,谁都知道有问题。可如果一只蜂鸟被画出了麻雀般的长腿,又有多少人能看出来?

几乎同时,一位独立开发者用AI制作了覆盖全球11064种鸟类的贴纸,并且将这批写实风格的贴纸免费开源允许商用,引发了观鸟社群的批评。有科普博主指出,AI可能画错鸟类的关键特征,写实风格的图片如果被用于识鸟和自然教育,反而可能传播错误知识,造成数据污染。

图片来源:小红书

面对批评,开发者多少有些委屈:这些贴纸只是插画,不能代替专业图鉴。他还投入超过10亿Token用于生成和审核,AI又评审了这些AI生成贴纸的准确性。所打的准确分,开发者还保留下来供使用者自行判断。

然而,看似无害的开源插画,一旦进入互联网的内容流通体系,便可能产生超出创作者预期的影响。一万张鸟类贴纸,不仅可能被人们当作知识传播,还可能在反复引用、二次创作乃至AI训练中,成为下一轮内容生产的素材。当AI制造的错误,又成为AI学习和生成的依据,细微的失真就可能被不断复制、放大。

“双头虾”未必是这一过程的产物,却让这种风险有了更直观的注脚。两件事性质不同,却共同提出了一个问题:AI已经可以大规模生产看起来逼真的知识性内容,我们是否有能力为它们的准确性负责?

AI生成文章占比过半,去伪存真更难了

AI内容的生产速度,已经快到足以改变互联网的内容结构。

一个重要的拐点已经出现。数据分析公司Graphite从Common Crawl数据库抽取约5.54万篇英文文章,利用多种工具识别其创作方式。这个抽样实验显示,自ChatGPT发布以来,AI生成文章占比快速攀升,2025年起与人类创作基本持平。

需要说明的是,AI生成内容并不等于低质内容。AI可以降低科普创作的门槛,让原本耗费大量人力的插画、动画和视觉呈现变得更容易。

但效率的另一面,是验证成本。产能上去了,验证真伪的能力,不论是普通人还是工具,都未必跟得上。

在鸟类贴纸的项目中,开发者将真实鸟类照片交给AI生成贴纸,再用另一套AI审核。他发现,AI可能画错虹膜颜色,甚至给蜂鸟安上麻雀般的长腿。

AI可以把鸟画得很像,却未必能把每一种鸟画对。而AI张冠李戴的细节,恰恰是观鸟爱好者辨认物种的关键特征,也是科普的准确性底线。

“AI泔水”正大肆进入科普领域

AI内容的质量问题,在科普领域尤其值得警惕。

2026年6月,视频编辑平台Kapwing抽查了TikTok(抖音海外版)上10472条热门标签视频,发现儿童类内容中,57.4%被判定为AI泔水;科学与教育、健康、历史类内容的占比也都超过三成。

原本承担严谨知识传播功能的内容类别,正在成为“AI泔水”的聚集地。

更深层的矛盾在于,科普内容追求的是准确性,流量竞争却更看重注意力。AI可能产生幻觉,编造事实、混淆概念,但在批量生产的流量生意里,创作者未必愿意为每一条内容投入专业审核的时间和成本。

AI已经可以大规模生产看起来逼真的知识性内容,将其隔离在内容生产领域已近乎不可能,但我们其实尚未真正解决这种不准确带来的内容误导与知识污染。

当错误经过反复传播,还可能变成广为接受的“知识”。

2008年,一名17岁的美国少年在维基百科中给长鼻浣熊(coati)编造了一个名称——“巴西土豚”(Brazilian aardvark)。

本来只是个恶作剧,却被多家媒体转载,甚至进入芝加哥大学出版社出版的书籍。更荒诞的是,维基百科后来又引用了一篇转载这条错误信息的新闻报道,为这个错误提供了“证据”。

直到2014年,《纽约客》才揭开这个持续多年的错误。

一个凭空编造的名称,在传播中获得了“权威出处”,又反过来证明自己是真的。

2024年,《Nature》的一项研究指出,在特定的递归训练条件下,模型反复学习前代AI生成的数据,可能发生“模型坍塌”:原始数据中罕见的信息逐渐丢失,生成结果越来越偏离原始数据。

AI究竟应该在多大程度上参与知识生产?

北京印刷学院出版学院教授叶文芳在“双头虾”事件后接受采访时提出,AI辅助出版要满足三个前提:标识可识别、内容可核验、责任可追溯。

她认为,在装饰性、示意性或虚构场景再现中,可以使用经过核验的AI插图;但在物种形态、实验装置、医学图示等准确性至关重要的领域,不能缺少领域专家的审查就作为定稿使用。

这一判断,也与国际学术界的讨论相呼应。

2025年发表于《Ethics and Information Technology》的一项研究指出,对AI生成科学插图的判断,不应简单以是否使用AI为标准,而应考虑图像的传播目的、错误性质以及可能造成的后果。

一张用于营造氛围的鸟类插画,可以有艺术化表达;但如果用来教人识别物种,喙的形状、虹膜的颜色,就不能随意发挥。

这也是为什么,科普对AI的使用不能只停留在“有没有标注”上。中国科协2026年发布的《科技工作者科普创作指南》,已经明确鼓励AI辅助文本创作,同时要求专业人员全程发挥判断,严格审核科学原理、引用和事实。

AI可以降低知识的表达成本,却不能降低知识成立的证据标准。

从“双头虾”到万张鸟贴纸,争议的关键不是有没有使用AI,而是谁来为AI生成的内容负责。

澎湃新闻记者陈良贤对本文亦有贡献

【版权声明】本文内容来源于澎湃新闻,版权归原作者及原媒体所有。本站仅作信息分享,不构成任何商业用途;如涉版权问题,请联系本站删除。

发布时间:2026-11-20 08:20:41


(第1/1页/共4074字/2阅)
首页>科技
相关科技:
东南亚AI中间商之死
智元合伙人王闯:会干活才是人形机器人的真本事
乌兰察布,才是AI数据中心的正确答案?
刘强东,也要入局短剧了?京东内测独立短剧产品
罗技再次卷入“狗”争议,网友:20万罚少了
*承接仿腾讯家园优惠建站业务
网友评论:
更多评论(0)
您的评论:

[热点科技]
后C罗时代首战溃不成军!霍伊伦双响,葡萄牙1-4丹麦造16年耻辱纪录
西海岸元素满满,李昊再献神扑零封对手,国足热身赛2:0完胜马来西亚
Skip:东契奇不愿与詹姆斯共享舞台,湖人并不想念后者
内蒙古速滑运动员韩梅在國際滑聯世界杯第一站以1分56秒40获女子1500米季军
后C罗时代首战!葡萄牙主场1-4崩盘 创16年耻辱 72岁新帅上任首败
[精彩推荐]
又一场“天价豪赌”来了
古人用尿和海螺染出来的贵族紫,我们在家复刻成功了
35岁浙江女子备孕10年未怀上,子宫内竟长出“骨头”,医生:这种罕见病隐匿性强,极易漏诊
喧嚣反转!2026广州车展大变局新势力集体进入静默期
APEC效应给文旅产业带来什么启示?对话中国人民大学宋洋洋