人工智能帮助您撰写文章和阅读科学期刊

人工智能（AI）已经完全渗透到科学研究活动的各个方面。人工智能在提高效率的同时，也催生了新型学术不端行为，例如代笔、数据造假，甚至隐蔽的“智力抄袭”。他们的方法变得越来越隐蔽，对学术诚信提出了新的挑战。科技期刊应如何识别、应对和防范？近日，科技日报记者采访了《柳叶刀》副主编萨宾·克莱纳特。
记者：针对人工智能带来的新的科研不端问题，同行评审、数据验证等传统科研诚信评价方法可能面临失败的风险。科技期刊应如何发挥“守护者”的作用？
Sabina：我认为生成式人工智能在科学研究中的使用正在日益增加。此时我们主要依靠作者的“自我声明”。这《柳叶刀》提交页面现在有一个新的复选框，询问作者是否在研究的任何部分使用了生成式人工智能。如果作者选择“是”，他们将被要求指定他们使用的大规模语言模型的名称、其版本、确切的关键字、其预期用途及其在稿件中的位置，并且这些信息将随文章一起发布。此信息也应在手稿的致谢部分中披露。
为了确保编辑、审稿人和读者的透明度，作者必须适当地声明他们对生成人工智能的使用，并对他们作品的原创性、准确性和完整性承担最终责任。否则，编辑可能会因人工智能使用不当而重新拒绝您的稿件。
记者：这个方法效果如何？
萨宾娜：这是一个很好的问题。回想起来，只有 7% 的作者报告在提交的研究中使用了生成式人工智能。这与一些使用生成式的研究结果有很大不同人工智能。调查中，超过 50% 的用户表示他们使用生成式 AI。显然，我们发现许多作者没有准确披露他们对生成式人工智能的使用。
最近有一些说法，主要以“幻觉报价”的形式出现。我们注意到明显的迹象表明人工智能生成的内容（AIGC）被不当使用。我们的编辑查阅参考书目并找到未标记的引文。例如，我们有一个DOI（数字唯一对象标识符，相当于数字资源的“DNI”），但我们无法搜索到相应的引文。我编辑themres主动检查这些引用是否确实存在，发现有些文章包含10到15个不存在的引用。
记者：如果发现“幻觉语录”，您将如何处理？
Sabina：如果你的文章很大一部分不恰当地使用了人工智能，并且你没有声明它，我们就会拒绝它，即使它最终被接受。我们通知作者认为这种做法是不合适的。如果这种情况足够普遍，我们可以告诉作者所在的机构，他们应该接受有关如何正确使用生成人工智能的教育。
记者：在这种情况下，被拒绝的工作比例是多少？
萨宾娜：很少。上个月只发生过几次。事实上，这是一个非常新的现象，我们不知道未来还会发生多少类似的情况。
此外，还有其他类型的情况。没有实质性内容的时事通讯提交将被拒绝。我们每天都会发现大约五份这样的手稿，显然是由生成式人工智能撰写的。内容很常规，没有什么新意，也没有什么真正的科学发现。
记者：哪些情况下科研文章的写作、同行评审和发表过程中不允许使用人工智能？
Sabina：《柳叶刀》不支持用人工智能辅助技术取代传统医学研究人员的工作，例如提出科学见解、分析和解释数据、得出科学结论或提出建议。
目前，同行评审过程中不允许使用生成式人工智能。这是因为审稿人可以将未发表的文章输入公共系统，这会违反保密性。同样，生成式人工智能不能用于批判性地评估文章或供审稿人撰写相关研究的评论。当使用 Active Al 创建图形和插图时，您应该主要将其用作生成图像创意和概念的工具。
记者：生成式人工智能可以在哪些场景下使用？
Sabina：为了提高文章的可读性，我们帮助作者在写作过程中使用生成式人工智能来改进语法和语言表达，并对现有的研究成果进行回顾和总结。这些都是合理的用途。
我认为一些研究人员有顾虑。您可能认为声明 tAI的使用会影响论文，但事实并非如此。我们只要求关于提交的研究论文中是否使用人工智能的诚实和公开的声明。归根结底，是人监督、负责、负责。
记者：科学期刊应该如何解决其计划的科学研究诚信可能出现的危机什么是生成式人工智能？
Sabina：我认为监管这个领域会非常困难，因为人工智能技术无所不在，每个人都在使用它。最好的方法是明确指出哪些情况不合适，对其他方面保持诚实和透明，最终将所有责任归于用户。
《柳叶刀》编辑部内部成立了一个研究诚信工作组。该工作组重点关注两件事。一是紧跟最新政策。该团队制定了有关《柳叶刀》系列期刊人工智能生成的内部政策。第二、周一或难以处理和监测所采取的适当措施的持续案件。同时，我们也会密切关注外部指引的变化。例如，国际出版道德委员会最近更新了其撤回指南。我们将记录这些并将其纳入《柳叶刀》的内部流程中，以便根据最新指南做出决策。
《柳叶刀》编辑部正在筹备成立研究诚信委员会，但仍处于早期阶段，计划于明年2月召开初次会议。生成式人工智能及其对科学研究完整性的影响将是委员会关注的重点领域之一。
记者：研究员和编辑是AI生成的，使用时应该考虑什么原则？
Sabina：我们需要更多地考虑人工智能作为辅助工具。我一直觉得AI概念中的“智能”指的是知识、知识、AI。事实上，这些功能并不存在。
研究人员、编辑和出版商在了解如何最好地利用生成人工智能时应该注意一些警告和陷阱。一厢情愿、偏见、种族主义、破坏的模型和违反科学诚信的行为可能会破坏公众对科学的信任。如今，生成式人工智能模型常常产生表面上看似合理的内容，但在实践中缺乏洞察力、新颖性或实际意义。生成式人工智能使下一代研究人员面临失去技能的巨大风险。
（编辑：罗智智、陈健）
关注我们的公众号：人民网财经
分享出去让更多人看到。