精选
AI能帮忙写论文吗？AI润色算不算学术不端？未来科研工作，会不会真的被AI改变？……
这些问题，正在成为越来越多研究者的现实困惑。
此前Wiley举办了一场主题为“AI Tools for Writing and Research”的线上研讨会，由ChemMedChem主编David Peralta主讲，本文为系列上篇。
1分钟get本文要点
传统AI与生成式AI有什么区别？
AI为什么会“一本正经地出错”？
AI写作会涉及哪些版权与伦理风险？
Wiley对AI使用有哪些明确规范？
长按识别下方二维码即可观看回放
*以下截图均来自本场研讨会演示稿
传统AI和生成式AI，到底有什么不同？
研讨会一开始，David Peralta就先强调了一个很容易被混淆的问题：我们今天讨论的AI，其实和过去很多人熟悉的“AI工具”并不是一回事。
简单来说：传统AI更像“执行工具”，生成式AI 更像“内容生成工具”。
传统AI的使用通常不需要特别声明；但生成式AI 的使用，在很多期刊（包括Wiley）中虽然被允许，但通常需要披露（disclosure）。
因此，科研人员不仅需要知道“工具能不能用”，更要知道它背后的技术属于哪一类。
LLM的能力与局限：高效工具，而非知识来源
Peralta接着总结了大语言模型（Large Language Model，简称LLM）在科研写作中的效率优势，可以明显减少研究人员的时间成本。但LLM更像一种“基于概率生成语言”的工具。它可以生成看起来非常完整、非常自然的内容，但并不会主动核查事实。
1. AI的知识并不是实时更新的
Peralta提到，大语言模型存在“知识截止日期（knowledge cutoff）”。以GPT-5.3（本次研讨会时的最新版本）为例，其训练数据截至2025年8月31日。这意味着，在未接入外部信息源时，它无法获取之后的新信息。
2. AI会“非常自然地犯错”
另一个常见问题是“幻觉（hallucination）”。Peralta引用了相关研究数据：在未接入外部信息源时，GPT-5出现“幻觉”的概率可达到47%，即便接入实时网络，仍有约9.6%的概率生成不准确信息（https://mashable.com/article/openai-gpt-5-hallucinates-less-system-card-data ）。
3. AI也可能继承偏见
除了错误信息之外，AI还可能继承训练数据中的历史偏见，以及部分早期模型存在明显的“谄媚倾向（sycophancy）”，也就是为了迎合用户观点，而倾向于给出偏向性回答，而不是坚持客观事实。
因此，对于科研人员，LLM输出需要严格审查，不能盲目信任，要结合自己的专业知识加以校验。
AI写作，会不会涉及学术不端？
接下来，研讨会进入了与学术出版更直接相关的话题，Peralta以多个案例说明，AI生成内容可能涉及版权风险。
其中一个典型案例，就是2023年《纽约时报》起诉OpenAI的案件。在相关测试中，GPT-4生成的内容与《纽约时报》此前发表的文章高度相似，除部分高亮内容外，其余文本甚至出现逐字重复。
图像领域的问题则更早暴露，Peralta举例说明，AI生成内容可能涉及版权侵权，而现有检测工具对非英语母语者、神经多样性写作者存在偏见。
Wiley的AI资源与指导：允许使用，但必须披露
Peralta还重点介绍了Wiley当前的指导原则。
Wiley已建立专门的AI Researcher页面（https://www.wiley.com/en-gb/publish/article/ai-guidelines/#author ），用于集中发布AI使用政策、常见问题以及声明示例。
整体来看，Wiley对AI技术持开放态度，但核心原则非常明确：
AI不能被列为作者（Author）
AI不得用于生成或编辑研究结果图像（如Western blots、显微镜照片）
有些场景允许使用，但必须说明，如稿件起草、编辑、研究方法论、数据收集、生成示意图等
声明需采用标准格式：技术名称+版本+使用日期+具体用途+人工审核责任声明
审稿人不得将未公开的待审稿件输入AI工具，会违反保密协议
（详细规则请查看AI使用政策）
下一篇我们将继续为大家本场研讨会的精彩内容，进一步讨论AI工具怎么用？有哪些真正值得科研人尝试？敬请关注！
——
关于主讲人
David Peralta
ChemMedChem主编
Wiley期刊发展部，物质科学方向
*本文基于Wiley“AI Tools for Writing and Research” 线上研讨会整理。
转载本文请联系原作者获取授权，同时请注明本文来自Wiley开放科研科学网博客。
链接地址：https://wap.sciencenet.cn/blog-3411312-1549890.html?mobile=1
收藏
