精选
ChatGPT聊天机器人的横空出世已经对学术界开始产生巨大影响，对产业界的影响已经展现出来，最近ChatGPT开始了收费模式，一方面是洪量免费用户带来的资金负担过大，另一方面意味着VIP用户的功能增强。
《自然》杂志的两个新规定意思和明确，同意使用这种工具，但不承认这种工具本身为论文作者。这是人类面临人工智能挑战的姑息规则。其实这已经变相接受了事实。机器能写论文，写的论文能在学术期刊发表，《自然》都接受这一新的技术现实。虽然为了保留人类自欺欺人的面子，把ChatGPT排除在作者列表外，只能放在致谢部分。其实已经接收了ChatGPT参与论文撰写的事实。如果这样的规定被大部分杂志接受，ChatGPT可能会大量出现在论文致谢部分。到了一定比例，会不会出台新的规定，要求不必要注明，因为大家都这么做。回忆一下，人类在面对机器挑战人类围棋的历史，开始有人认为机器永远都不能在围棋上战胜人类，但最终变成是人类永远都无法在围棋上战胜机器。现在我们仍然学习围棋，仍然有围棋比赛，而且增加了人机挑战赛的新模式。在学术论文的发表方面，人类将来会永远无法不依靠机器，这已经成为非常接近的现实。无论你是否愿意，是否接受，我们都应该为这种时代的来临，做好准备。
几年来，很明显，人工智能（AI）正在获得生成流利语言的能力，产生越来越难以与人们编写的文本区分开来的句子。去年，《自然》杂志报道称，一些科学家已经在使用聊天机器人作为研究助手——帮助组织他们的思维，产生对工作的反馈，协助编写代码和总结研究文献（Nature 611，192-193; 2022）。
但是，11月发布的人工智能聊天机器人ChatGPT将此类工具的功能（称为大型语言模型（LLM））带给了大众。它的开发人员，加利福尼亚州旧金山的OpenAI，已经让聊天机器人免费使用，并且没有技术专长的人可以轻松访问。数以百万计的人正在使用它，结果是有趣的，有时甚至是可怕的写作实验的爆炸式增长，加剧了人们对这些工具日益增长的兴奋和惊愕。
ChatGPT 可以撰写精美的学生论文、总结研究论文、回答问题以通过体检并生成有用的计算机代码。它已经产生了足够好的研究摘要，以至于科学家们发现很难发现是计算机写的。对社会来说令人担忧的是，它还可能使垃圾邮件、勒索软件和其他恶意输出更容易产生。尽管OpenAI试图为聊天机器人将要做的事情设置护栏，但用户已经找到了绕过它们的方法。
学术界最大的担忧是，学生和科学家可能会欺骗性地将LLM撰写的文本伪装成自己的文本，或者以协助方式使用LLM，例如进行不完整的文献综述，并产生不可靠的工作。一些预印本和发表的文章已经将ChatGPT归功于正式的作者身份。
这就是为什么研究人员和出版商是时候制定关于道德使用LLM的基本规则了。《自然》杂志与施普林格·自然的所有期刊一起制定了以下两项原则，这些原则已添加到我们现有的作者指南中（见 go.nature.com/3j1jxsw）。正如《自然》杂志的新闻团队所报道的那样，其他科学出版商可能会采取类似的立场。
一、不承认任何LLM工具是论文作者。
任何LLM工具都不会被接受为研究论文的署名作者。这是因为任何作者身份的归属都伴随着对工作的责任，而人工智能工具无法承担这种责任。
二、同意论文作者使用这种工具，但要求在致谢部分标注。
使用LLM工具的研究人员应在方法或致谢部分记录这种使用。如果论文不包括这些部分，则可以使用引言或其他适当的部分来记录LLM的使用。
编辑和出版商可以检测LLM生成的文本吗？现在，答案是“也许”。ChatGPT 的原始输出可以通过仔细检查检测到，特别是当涉及多个段落并且主题与科学工作有关时。这是因为LLM根据其训练数据和它们看到的提示中的统计关联产生单词模式，这意味着它们的输出可能看起来平淡无奇，或者包含简单的错误。此外，他们还不能引用来源来记录他们的产出。
但在未来，人工智能研究人员也许能够解决这些问题——例如，已经有一些实验将聊天机器人与来源引用工具联系起来，还有一些实验在专门的科学文本上训练聊天机器人。
一些工具承诺发现LLM生成的输出，Nature的出版商Springer Nature是开发技术的人之一。但是LLM会很快得到改善。人们希望LLM的创建者能够以某种方式为其工具的输出加水印，尽管即使这样在技术上也可能不是万无一失的。
从最早的时代开始，科学就通过对方法和证据保持开放和透明来运作，无论哪种技术一直很流行。研究人员应该问问自己，如果他们或他们的同事使用以根本不透明的方式工作的软件，如何保持生成知识过程所依赖的透明度和可信度。
这就是为什么《自然》杂志提出了这些原则：最终，研究必须在方法上具有透明度，以及作者的完整性和真实性。毕竟，这是科学进步所依赖的基础。
转载本文请联系原作者获取授权，同时请注明本文来自孙学军科学网博客。
链接地址：https://wap.sciencenet.cn/blog-41174-1373381.html?mobile=1
收藏
