数字科学交流团队分享 http://blog.sciencenet.cn/u/dsc70 武大

博文

开放审稿人身份:全力以赴还是谨慎行事?

已有 8822 次阅读 2021-11-15 20:12 |个人分类:STM出版|系统分类:海外观察

引用本文请注明出处

作者:Véronique Kiermer, Alison Muddit           译者:何倩          校译:贺琳

来源:https://scholarlykitchen.sspnet.org/2021/09/21/open-reviewer-identities-full-steam-ahead-or-proceed-with-caution/

 

在专门探讨个人和社会身份在同行评审中的作用的一周里,我们将深入探讨同行评审中的开放身份这一长期问题。开放同行评审一直在稳步增长,但其实施有许多不同的形式(事实上,Ross-Hellauer已经编列了122种定义)。在过去几年里,随着资助者兴趣的增加,提高评审透明度的呼声也在不断提高,人们越来越支持发布评论,并希望出版商能够提供DOI从而能够更加容易地引用它们。例如,PLOS ONE2017年的一项调查发现,大多数受访者从多方面都对公开评审给予了高度支持。

然而,在审稿人是否应该公开他们的身份这个问题上则存在着更大的分歧。在这篇文章里,我们首先简要地回顾了开放身份的利与弊,然后再深入探讨已经实施开放审稿人身份的出版商的经验给予了我们哪些启示。

 

开放身份的益处

开放身份(即签名)同行评审的支持者认为这种形式的透明度是开放评审的一个重要组成部分。

l  责任。当所有参与者的身份都公开透明时,任何潜在的利益冲突都会更加明显,每个人都要公开地对自己的行为负责。

l  声誉。同行评审具有挑战性、耗费时间,而且常常未受赏识。署名和公开发表的同行评审为审稿人提供了一个使其工作被认可的机会,这使得同行评审朝着值得认可和赞誉的真正的学术活动又迈进了一步。

l  质量。开放身份可以通过鼓励审稿人更彻底地评估来提高评审的质量。研究表明,署名且公开发表的同行评审至少与盲审模式一样好,还有一些研究发现在某些方面公开评审比盲审更好,比如建设性反馈、对方法的评论、评审的长度和支持评论的证据。

 

更加谨慎的理由

当前,可能有更多的人认为开放身份的风险会超过其益处。关键问题可以归纳如下:

l  偏见。许多形式的偏见是同行评审过程中所固有的(例如,在选择审稿人及其评审结果方面的性别偏见),这个问题由于我们的审稿人范围过于狭窄而变得更加严重,这导致无法确保研究得到公正的评估并充分考虑到不同观点。在双向匿名系统中对双方的身份进行保密,而不是透露审稿人的身份,已经被视作一种解决方案——尽管双向匿名做法的有效性受到了质疑。在某些领域进行双向匿名的同行评审则更加复杂,因为它与那些被偏好的行为和政策相冲突,比如发布预印本、在文章提交前共享数据和对竞争性利益的审查。

l  对弱势群体的影响。开放身份对那些易受攻击、权力更小的人有着实在的影响,因为可能导致他们在论文或研究资助的同行评审中遭到全面报复,甚至造成更微妙的后果,比如不受论坛和奖项的青睐。

l  严谨度和坦诚性。与此相关的另一个担忧是,审稿人可能不太愿意给出批评性的反馈意见——或者那些本来会这么做的人拒绝参与评审,一些医学期刊(比如《英国医学杂志》[The British Medical JournalThe BMJ])已经证实了这一担忧。此外,编辑和作者都对利益交换链的问题表示担忧,即给予积极评论,从而希望将来也能得到积极的反馈。

 

对读者的影响

虽然大多数研究都集中在开放身份对同行评审结果的影响上,但开放身份对已发表作品的读者意味着什么也很重要。当谈到评估已发表的研究时,有大量数据表明,同行评审是信赖和可信度的决定因素。但也有数据表明,人们根据作品的外在特征(对作者、实验室和机构声誉的看法)来判断研究成果的质量。我们的研究还表明,至少在某些情况下,研究人员在自己的研究过程中遇到新的出版物时,会分析同行评审报告以评估结果的可信度。这对开放身份来说是一把双刃剑。在个人层面上,这有助于评估我们专业领域之外的论文,如果我们信任的一位专家对一篇论文作出了积极的评审。但在系统层面上,延续这些启发式方法并将其扩展到同行评审报告中,可能会使偏见持续存在,而且并不会使我们更接近于完全根据研究自身的价值来评估——以及同行评审——一项研究。

 

从出版商的开放评审经验中得到的启示

少数出版商实行某种形式的开放评审已经有1520年了,包括《英国医学杂志》、《欧洲分子生物学学会杂志》(European Molecular Biology Organization JournalEMBO Journal)和欧洲地球科学联合会(European Geosciences UnionEGU)。《英国医学杂志》在随机试验中研究了这种形式的透明度的效果后,率先披露了审稿人身份并公开了同行审稿报告。他们的研究早在二十年前就开始了,发现开放身份对评审的技术质量基本上没有影响,对推荐接受的概率没有明显影响,但导致了评审的意愿有所下降,对评审的基调和建设性有些许积极影响。《英国医学杂志》相信全面的透明度对其风纪的好处,多年来成功地运行了一个开放审稿人身份的透明程序。

《自然》(Nature)杂志采取了一种非常不同的方法,它进行了一项试验,然后将其作为常规做法,即在发表时可以选择披露审稿人身份,但不公开报告,同时需要作者和审稿人都同意才能透露审稿人的名字。总的来说,80%在《自然》杂志上发表的论文中,至少有一位审稿人署名。由于这一选择是在发表时做出的,而且名字与具体的报告没有关联,结果几乎没有告诉我们对质量或责任的影响,但它们表明了人们对声誉的渴望。在试验中,55%的审稿人选择了署名,且这种选择没有在性别或职业阶段上的明显区别。有趣的是,四分之一的作者拒绝查看审稿人身份,这可能与对交换利益的担忧有关。

最近在PeerJ(一本开放获取期刊)上发表的一篇基于PeerJ数据的论文研究了同行评审过程对稿件的影响,这个分析中的一个有趣发现是,选择为他们的评论署名的审稿人写的评论更加主观和积极。虽然这是一个有限的数据集,但它提供了一些证据,说明社会压力会影响公开身份的审稿人在开放评审中的坦率程度。这与《英国医学杂志》的数据形成反差,但很有可能是不同学科之间的文化差异在这些个体行为的微妙影响中发挥了重要作用。

 

PLOSthe Public Library of Science,美国科学公共图书馆)的经验

PLOS2019年在其所有期刊中引入公开的同行评审政策时,我们思考了支持和反对披露身份的论点,并研究了那些已经实施透明评审形式的期刊。像EMBO Journal(在生命科学领域开创了这种模式)和PeerJ一样,我们认为公布评审内容是最重要的。我们的同行评审透明模式有重要的共同点:所有审稿人都同意公开他们的报告,但他们可以选择透露自己的身份或保持匿名。是否公布整个同行评审过程,包括同行评审报告,以及作者的回应和编辑的决定,都取决于作者——尽管在实施方面略有差异。

尽管模式相似,但不同学科和期刊对开放审稿人身份的态度却大不相同。EMBO Journal虽然鼓励审稿人公开身份,但几乎没有审稿人这样做。对于PeerJ,从过去6个月里其主要(生物学)期刊的所有评审情况来看,28%的审稿人选择公开自己的名字。

PLOS,旗下的7种期刊(不包括5种新期刊,因为我们还没有足够的数据)自20201月以来的21个月的数据展现了一种有趣的模式。署名评审最多的是医学领域,PLOS Medicine24%,其次PLOS Neglected Tropical Diseases17%。我们的核心生物科学期刊从PLOS BiologyPLOS Computational Biology14%PLOS Pathogens8%PLOS Genetics10%不等。而PLOS ONE,因其广泛的学科组合,达到了16%。在这7种期刊中,22%的被审稿件至少有一篇署名评审。

我们还观察到了对同行评审贡献归属的声明的强烈需求。由于我们引入了一种简化的方式,无论审稿人是否选择透露他们的身份,他们都可以获得审稿贡献归属的证明。通过与ORCIDOpen Researcher and Contributor ID,开放研究者与贡献者身份识别码)的整合,审稿人可以选择用PLOS期刊认证的审稿证明自动更新其ORCID记录。在20202021年的所有PLOS期刊中,46%符合条件的审稿人选择了ORCID评审存储,约有44390个评审的贡献归属被存储在了ORCID

 

独立于期刊的同行评审

最近,我们也看到了在典型的期刊同行评审框架之外进行评审的吸引力,尤其是预印本服务器,它为学者提供了在论文在期刊上发表前对其进行评论的选择。虽然绝大多数评论是私密的,通常是通过电子邮件直接发送给作者(如bioRxiv的调查所示),但也有越来越多在其他公共论坛上对预印本进行热烈讨论的例子,在这些论坛中评论者的身份是已知的(例如在Twitter上)。像PREreview(一个预印本评论社区)这样的组织还为职业生涯刚起步的研究者群体创造了提供一致意见的方法——通过这种机制,这些特别易受影响的研究人员可能会因人数上的优势从而降低风险。据我们所知,这些论坛对同行评审结果的影响还没有被研究,但有趣的是,在期刊出版决策之外,我们看到了自发的同行评审运动,其中很多情况都涉及到了开放身份。

 

下一步怎么做?

我们相信,打开同行评审的“黑箱”对所有利益相关者都有好处。例如,EMBO Journal和《英国医学杂志》开创的获取审稿人报告、作者回复和编辑决定的透明路径,在我们看来展现了开放如何为作者和读者提供更好的服务。它还使得具有不同视角的学者能够对同行评审过程本身进行研究,我们必须继续通过对这些研究进行学习来改进开放评审的流程。

但是,披露审稿人身份的价值就比较模糊了。现有实践的数据表明,不同的研究群体在不同程度上都存在犹豫不决的情况。但同样重要的是,我们对公开审稿人身份的影响和潜在的意外后果的理解是有限的,譬如有较高声望的研究人员是否会得到更多的正面评论?是否存在明显的国家、性别和主题偏见?

最重要的是,建立对同行评审活动的认可,将其视为一项真正的学术成果,并为这一项对科学界的服务的质量给予相应的声誉,这兼具重要性与挑战性。这将要求那些给予认可和贡献归属的人考虑与披露身份有关的敏感性。

虽然很明显,开放身份有一定的风险,需要更多的研究来了解其全部影响,但只关注这些很容易忽视现有体系使那些有地位和特权的人受益的方式。仅仅通过披露或隐瞒审稿人的身份并不能解决同行评审中固有的(有意识或无意识的)偏见问题。也许最紧迫和重要的是提升审稿人和编辑的多样性。长期以来,大多数编辑都努力在同行评审中纳入各种科学专家意见。但是,从现已向研究开放同行评审程序的期刊所提供的数据来看,在提高性别、地理和社群代表性方面,我们显然还有很多工作要做。

最后,我们将回到今年同行评审周的主题——我们主要关注的是个人身份。但我们也注意到,我们这些从事同行评审的人很少花时间去思考对社会和社群的影响。我们自己的社会身份和分类对我们如何看待和理解我们周围的人,进而对我们所追求和评审的研究和学术产生了重大影响。如果我们的目标真的是要根除偏见,增加信任和透明度,我们也可以开始探索同行评审中这些社会层面上的问题。




https://wap.sciencenet.cn/blog-521339-1312558.html

上一篇:一家出版商统治行业?学术交流与科学研究界的整合趋势
下一篇:出版商将预印本整合进工作流程中
收藏 IP: 59.172.109.*| 热度|

1 王成强

该博文允许注册用户评论 请点击登录 评论 (1 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2022-8-13 23:01

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部