编者注：

AI文本和图像汹汹涌入学术出版行业，若不加管控，将严重侵蚀科学界。本文将从诸多案例入手，讨论AI给科学界带来的重大忧患。

图源：Phys.org

最近出现在科学期刊中的某些最离谱的人工智能案例，这表明AI文本和图像正涌入学术出版行业。专家担忧人工智能的崛起加剧了这个行业中原有的问题。最近的几起案例表明，它们很轻松的就通过了同行评审。

今年早些时候，一张明显由AI生成的图片在社交媒体上广为流传。这张图发表在学术巨头Frontiers的一本期刊上，后来该研究被撤回。

另一项研究中出现一张带有类似手部的多关节骨头的人类腿部AI图片，同样被撤回。

尽管这些例子是图像，但ChatGPT极大改变了全球研究人员展示他们研究成果的方式。今年3月，Elsevier的一项研究因其引言而迅速传播。该引言显然由ChatGPT生成，内容为：“Certainly, here is a possible introduction for your topic.(当然，以下是您主题的可能介绍)”。

打击论文工厂

AI并不总是那么容易被识别。但一条线索是，ChatGPT往往偏好某些特定词汇。伦敦大学学院的Andrew Gray查阅了数百万篇论文，发现一些词语——如“meticulous(缜密的)”、“intricate(复杂的)”或“commendable(值得称赞的)”——被过度使用。

他确定，在2023年，至少有6万篇论文使用了AI，占年度论文总数的1%以上。“2024年，这个数字将显著增加。”Gray表示。

与此同时，根据美国撤稿观察组织的数据，去年的撤稿论文超过1.3万篇，创下历史新高。AI让科学出版和学术界的不良行为者能够“工业化大量制造‘垃圾’论文”，撤稿观察的联合创始人Ivan Oransky表示。这些不良行为者包括所谓的“论文工厂”。

荷兰研究员Elisabeth Bik表示，这些公司向研究人员出售署名权，生产出大量低质、抄袭或虚假的论文。据估，所有研究中，有2%是由论文工厂发表，但随着AI的兴起，这一比例正在“爆发性增长”。

当学术出版巨头Wiley在2021年收购有问题的出版商Hindawi时，该问题得到了突出体现。自那时以来，Wiley已经撤回了超过11,300篇与Hindawi特刊相关的论文。Wiley现已引入了一项“论文工厂检测服务”，用于检测AI的滥用——该服务本身也由AI提供支持。

“恶性循环”

Oransky强调，问题不仅在于论文工厂，而在于崇尚“发表或灭亡”的学术文化。“通过这些系统，出版商能获取30%到40%的利润率和数十亿美元的利润。他们因此极力追求论文数量的增长。”他说。对论文数量的贪婪需求给学者们带来了压力——他们的排名取决于产出量，这将导致 “恶性循环”。

许多人转向ChatGPT以节省时间——这并不一定是坏事。Bik表示，由于几乎所有论文都是以英语发表，AI翻译工具对英语非母语的研究人员（包括她自己）来说非常有助益。

但也有人担心，随着AI的错误、虚构和无意抄袭行为增多，可能会逐渐侵蚀社会对科学的信任。上周，另一例AI滥用事件曝光：一位研究人员发现自己的研究似乎被ChatGPT改写后发表在学术期刊上。美国杨百翰大学的Samuel Payne教授表示，三月份他受邀对这项研究进行同行评审。

在意识到这是“100%抄袭”他自己研究的内容，但文本似乎是由AI程序重新措辞后，他拒绝了这篇论文。

Payne表示，他“震惊”地发现这篇抄袭的文章竟在别处发表了，且发表在一个新的Wiley期刊——《Proteomics》上。

它尚未被撤回。

参考文献：

https://phys.org/news/2024-08-junk-ai-scientific-publishing.html