博文
使用AI筛查期刊投稿中不端行为的指导建议：如何避免和纠正误判
|
图1.题为“Guidance needed for using artificial intelligence to screen journal submissions for misconduct”关于AI筛查期刊投稿不端行为的论文（截图来自Guidance needed for using artificial intelligence to screen journal submissions for misconduct (sagepub.com)）
AI筛查工具虽然对提高研究的完整性大有裨益，却也带来了误判的风险，有可能对无辜研究者造成不公正的指控。事实上，即便是最高效的AI工具，也难以完全避免误报（假阳性）或漏报（假阴性）的判断错误。为了尽可能降低这种风险，该文出了一系列操作建议，包括：- 所有AI识别的疑点都应由人工仔细审查，确保准确无误；
- 使用AI工具的期刊和出版商应选择经过严格测试的可靠工具，并保持对技术进步的关注；
- 应将AI工具发现的问题通知作者，并给予他们回应的机会；
- 期刊和出版商应对所有投稿执行相同的筛查程序，确保公平性。
图2. 人工智能（AI）为期刊和出版商监测投稿过程中不端行为的关键点
01自动化检测AI工具可以自动地扫描投稿文档，检测潜在的剽窃、数据或图像篡改等不端行为。这些工具通常与大量的数据库相连，能够迅速识别重复的文本或图像。
02图像分析特定的AI程序如FigCheck和ImageTwin，已被设计用于识别图像处理的迹象，能够检测到不适当的图片裁剪、复制粘贴和其他形式的图像篡改。
03数据一致性验证AI也可用来评估统计数据的一致性，帮助审稿人发现可能的数据造假或不一致的数据。
04避免人为偏见由于AI基于预设的算法工作，它们在识别不端行为时理论上可避免人为偏见，尽管这也取决于AI的训练和编程方式。
05跟踪技术演进随着技术的不断进步，AI工具被更新以识别更复杂的不端行为方式，例如使用生成式对抗网络（GAN）所产生的篡改图像。
06增强可扩展性使用AI允许期刊和出版社在更短的时间内审查更多的论文，不用为每份稿件分配大量人力，而是将资源集中在需要更深入审查的稿件上。
然而，AI工具也有其局限性和伦理考量。误报（假阳性）和漏报（假阴性）的可能性要求来自人工的再次核实，以保证对研究者的公正对待。因此，虽然AI可以辅助检测不端行为，但任何怀疑案件最终都需人工复查和判断。此外，期刊和出版商需要根据公平和透明度的标准，谨慎处理AI检测到的问题，并与作者及其所属机构透明沟通。AI筛查工具可能会对研究者造成什么样的不公正指控？AI筛查工具在检测期刊投稿中的不端行为时，虽然大大提高了效率和覆盖面，但也存在使研究者面临不公正指控的风险。这些风险主要包括：
图3. AI筛查工具在检测期刊投稿中的不端行为时，可能存在的风险
01误报（假阳性）
可能是AI筛查工具最直接引发不公正指控的原因。在这种情况下，AI错误地标记了合法的研究行为为不端行为，例如原创性的工作被错误地标记为剽窃，或者合适的图像编辑被误判为篡改。
02识别标准的不一致性不同的AI工具可能基于不同的算法和数据集，导致对相同投稿的评估结果出现偏差。这种不一致性可能导致一些研究者被不正当地指控，而其他人则因为使用的工具不同而被忽视。
03对意图的错误解释AI仅能基于其编程指标识别潜在的不端行为，它不能准确判断研究者的意图。例如，数据的不当表示可能是由于疏忽而非故意造假，但AI可能无法区分这种差异。
04处理复杂资料的局限性某些类型的研究素材或数据难以被AI正确分析，尤其是涉及新的研究方法或跨学科研究。这种情况下，AI可能错误地将创新的方法或分析视为异常。
05对研究者职业和声誉的潜在伤害即使是未经证实的不端行为指控也可能对研究者的职业生涯和声誉造成长期影响。这种不公正的指控可能导致论文被撤稿、研究资助的丧失，以及研究领域内的信任度降低。
因此，尽管AI筛查工具为期刊和出版商提供了一个强有力的辅助工具，帮助它们监测投稿中的不端行为，但同时也需要严格的人工审核机制来确认AI的发现，并确保研究者不会因为工具的局限性而受到不公正的指控。这要求期刊和出版商在采用AI筛查工具时，同时遵守高度的透明度和公平性，确保权衡科技效率与研究伦理之间的紧张关系。期刊和出版商如何确保使用AI工具的公平性和准确性？期刊和出版商确保使用AI工具时的公平性和准确性，可以遵循以下几个关键步骤：
图4. 期刊和出版商使用AI工具时确保公平性和准确性的关键步骤
01精确的AI选择
仔细筛选并使用经过验证的AI工具，这些工具应该有一个透明的记录和被证明能够可靠地识别不端行为。
02常规的验证和校准定期更新和测试AI工具，确保其算法能够跟上最新的研究标准和不端行为的变化趋势。
03混合人机审核机制结合人工智能的筛查结果与专家审核，确保所有AI工具识别出的问题都经过人工复查，以验证发现的准确性和确保问责制。
04透明政策和标准制定清晰的政策和标准，公开使用的AI工具种类、操作方式、处理潜在问题的流程，并确保这些政策得到广泛传播和理解。
05提供反馈和上诉机制如果研究者的工作被AI工具标记为可疑，应该提供充分的机会让他们能够回应和解释，并在必要时能够挑战或上诉此类决定。
06不偏不倚的使用确保AI筛查工具遍及所有提交的文章，避免只对特定领域或特定作者群体使用，以免引入或强化偏见。
07问题跟踪和数据记录详细记录AI筛查的每一步，包括疑问、决策过程和最终的处理结果，以促进透明度和可追溯性。
08教育与培训定期为编辑团队和审稿人提供培训和指导，让他们了解AI工具的潜力和局限性，并教会他们如何处理由AI揭示的潜在问题。
通过这些举措的实施，期刊和出版商不仅可以利用AI工具的高效性，而且能够确保其使用是在一个公正、准确和对研究者负责的框架内进行。
参考资料：
1.Guidance needed for using artificial intelligence to screen journal submissions for misconduct (sagepub.com)
2.Is AI a Threat to Publishing? | PublishingState.com
https://wap.sciencenet.cn/blog-3596327-1436829.html
上一篇：ERHM | 过敏原特异性免疫治疗：甘草酸药物递送系统
下一篇：CSP｜热情守护：AI赋能智能手机热成像，开创乳腺癌筛查新纪元
