上周五下午参加了一场的跨国的科研诚信论坛， 我国与瑞士两国的学者均有参与。讨论的议题以“诚信”为核心涉及科研管理与创新管理的框架、AI与科技出版、可信赖的科学以及出版业的未来等。内容设计的比较宽泛，但同时也感受颇多。让自己对于“诚信”这对于议题对于科研而言有了更为全面的理解。

首先，在AI时代，尤其是生成式AI 大行其道的时代，负责任的科研需要一套新管理的框架， 然而这样一套框架还在讨论过程当中，没有定论。 就是说学术出版而言已经有一些机构推荐的最佳实践（如STM, COPE等）但如果从科研治理的角度来讲，还远未有全球达成一致管理框架。打一个不恰当的地方，就如同100多年前汽车已经发明了但红绿灯和交通规则还未发明，随着时间的推移和技术的进步， 交通规则的引入及红绿灯的广泛应用，从而让汽车这一超越人能力的机械系统，最终能被人类降服，从而很好的为人类服务。相信生成式AI也要经历这样的从乱到治的过程，只是它的发展还在继续，仍未看到其发展的最终边界在哪里，因而，现在要提所谓的管理框架，还有一点为时过早，但人类必须未雨绸缪，开始讨论相关议题。

第二， AI既是矛也是盾。尤其在于学术出版领域，作者可以利用AI来的替代人工完成某些工作，甚至造假。但AI也同样可以用于智能的识别这些潜在不遵守科研诚信的内容， 成为审稿人，编委提供判断内容真实性的依据。对于AI决定论文的录用与否，或者说由AI来做最终的决定Make decision。正如有人问ChatGPT能否为人类在战场上作出决策，它的回答是这不是一个好主意，原因是AI缺乏人类的同理心、判断力和直觉；伦理问题以及削弱人类决策能力的风险。

第三，科学技术本身也存在“好的”使用与“坏的”使用的伦理问题。这样的观点一直存在，当面临新的技术出现和快速发展的时候，也要用同样发展的眼光来审视新出现的所有技术。对于技术层面的伦理已经在瑞士这样的发达国家很正式的开始学术讨论。现场有学者讨论关于无人机的Good应用与Bad应用，让我体会到技术的发展本身很重要，但从人类社会发展的角度，技术的使用伦理是更进一步要考虑的，包括生成式AI 技术。可以先规定好哪些应用的方向是“好的”，哪些是“坏的”，也许才能进一步提出所谓治理的框架。

（这一周： 2024-9-8）

转载本文请联系原作者获取授权，同时请注明本文来自杜耀文科学网博客。

链接地址：https://wap.sciencenet.cn/blog-557555-1450250.html?mobile=1

收藏

分享