在科技飞速发展的浪潮中，人工智能（AI）正深刻改变学术出版的格局，同时带来了前所未有的机遇与挑战。本期Wiley《对话》（The Conversations）系列访谈的第三集，我们邀请了来自人工智能伦理、隐私保护和技术治理领域的三位专家，共同探讨AI如何塑造学术出版的未来。本期《对话》录制于法兰克福书展现场，是一期特别版节目。
AI伦理与价值驱动：在技术与价值之间找到平衡
第三期《对话》节目继续由Wiley执行副总裁兼研究与学习部总经理 Jay Flynn主持，对谈的三位嘉宾分别是：人工智能与道德伦理咨询公司Ethical Intelligence创始人Olivia Gambelin，独立伦理专家Dorothea Baur博士和Wipro全球首席隐私与人工智能治理官Ivana Bartoletti。
在访谈开篇，嘉宾们就“人工智能伦理”（AI Ethics）切入话题，Bauer博士给出广义定义：“人工智能伦理是关于人类或组织如何负责任地处理AI的问题。”
Gambelin女士进一步区分了“负责任的人工智能”和“人工智能伦理”这两个概念：负责任的人工智能关注的是商业实践，就像负责任的成年人完成任务一样，这是一种基本行为；人工智能伦理则涉及核心价值观的实践，例如在技术决策中考虑同情心、公平和透明。
Bartoletti女士则指出，AI技术需忠实于企业的核心价值观。她强调，技术不是孤立存在的，已有的法律框架同样适用于AI的开发与应用。企业需要通过技术实践展现价值观，确保客户和利益相关者对其信任。
AI在内容创作中的角色：工具还是伙伴？
AI已经成为学术出版中不可或缺的工具，从论文格式化到语言校对，无处不在，极大提升了效率。也正因此，涉及内容创作中由AI生成的虚假信息和偏见问题，是嘉宾们关注的另一大议题。
Gambelin女士谈到，写作的乐趣和创造性对于作者来说是不可替代的。她还补充道，尽管AI在同行评审等流程化环节中能够显著减轻研究者的负担，但在创作过程中，作者的原创性和声音需要由自己完全掌控。
Bartoletti女士特别关注AI对语言学多样性的潜在威胁。她提到，过度依赖AI生成内容可能会导致语言同质化的出现，同时削弱文化和学术表达中的多样性。
主持人Jay Flynn提到，对于那些从未用英语撰写过长篇学术文章的研究者而言，AI的语言处理功能无疑是一种强有力的支持工具，尤其在提升论文质量和申请学术资助方面发挥了重要作用。
Baur博士表示赞同，尽管AI有一定风险，但她对AI作为沟通工具的潜力充满信心。她认为，AI可以在不同语言和学科之间架起桥梁。例如，它能够翻译学术术语，消除因语言障碍导致的学科孤岛，促进跨学科合作。
伦理与责任：AI如何塑造更公平的出版环境
在AI赋能的出版行业中，数据使用伦理备受关注。嘉宾们紧接着对AI如何在学术出版中扮演角色展开了讨论。他们认可AI的潜力，也表达了对当前技术局限性的审慎。
Gambelin分享道，当代年轻研究人员的学习方式与以往不同。更多地，他们会通过互动和批判性思维与知识库对话，但核心能力的培养仍然不可或缺。
Bartoletti女士指出，AI工具的应用正在改变行业中的层级结构。入门级和高级职位的需求依然强劲，但中级岗位可能因AI技术的介入而被逐步减少，而这对行业长期的专业知识积累构成了潜在威胁。
嘉宾们继续深入人工智能时代学术出版中的数据使用的伦理与利益关系。
Bauer博士认为，在现阶段，更重要的是建立明确的合作框架，因此出版商需要对数据的潜在使用方式保持谨慎。
Gambelin女士强调，科研人员是学术出版体系中最重要的利益相关者，出版商需要确保其数据使用方式尽可能的回馈研究者
Bauer博士也补充道，在涉及数据出售或与AI模型的合作时，必须确保“知情同意”的原则。她建议使用“主动选择同意”（opt-in）模式，而不是默认同意的“选择退出”（opt-out）模式，以公平对待数据提供者。
开放获取与AI：未来协同发展的可能性
近年来，开放获取（OA）作为重要趋势一直在推动和改变学术出版的格局， AI技术有望进一步推动这一模式的发展，但同时AI的加入也让这一模式面临更多挑战。
Bartoletti女士强调，透明性是解决当前数据争议的核心。例如，欧洲《人工智能法案》要求模型必须公开数据来源。这种立法为行业提供了重要的伦理指导方向。
Bauer博士也认为，出版机构必须在与大型科技公司的合作中，优先考虑数据使用的伦理框架。这不仅关系到研究者的权益保护，也影响着模型训练的合法性和公信力。
偏见非技术问题，人类仍是伦理决策的核心
AI模型中的偏见往往是社会互动的反映，嘉宾们在本次对谈最后就AI模型中的偏见进行了讨论。主持人Jay Flynn提到，Wiley在过去几年里一直努力让同行评审人员、编委会和主编能反映出他们所代表的群体，即增加种族、性别和背景的多样性，以确保研究人员在期刊上发表的机会比历史任何时期都更公平。
Gambelin女士指出，消除模型中的偏见几乎是不可能的，因为这些偏见是社会互动的直接结果。重要的是利用这些模型作为“放大镜”，识别并解决社会中的不平等问题，而不是单纯修正模型本身。
而关于人工智能是否能比人类更有道德， Bartoletti女士表示，AI并不具备道德意识，其所谓的“同情心”仅仅是基于算法设计的一种表象。真正的伦理责任仍在于人类，特别是在学术出版领域，AI的作用更应被定位为支持人类的工具，而非取代人类的判断。
Bauer博士补充，AI的道德能力不是讨论的核心，如何通过技术帮助人类更好地践行伦理才是关键问题。
嘉宾们一致认为，与其创造新的规则，不如将AI纳入现有的法律与道德框架中。AI工具可能违反现有的隐私与反歧视法，这要求使用者重新审视这些技术的使用方式。同时，AI训练的高能耗被广泛也被批评为是一种对环境的破坏，但在适当框架内，这些问题都能够寻求到更好的解决方案。
作为知识的守门人，出版商也需明确其角色，通过AI推动学术公平。比如，确保数据来源透明，遵循法律并尊重作者权益，同时，以价值观为导向，主动设计和使用AI工具以支持公平与多样性。
人工智能时代的出版责任：塑造未来而非被动接受
人工智能正在以不可忽视的速度改变学术出版的面貌。无论是加速内容创作，还是优化同行评审和开放获取，AI都展示了其巨大的潜力。然而，正如本期《对话》中嘉宾们所强调的那样，技术的力量必须辅以伦理和文化的引导，才能真正实现其为学术出版服务的目标。
欢迎关注Wiley视频号观看完整视频，了解更多关于AI如何塑造学术出版未来的深度探讨。
✦
•
✦
威立（Wiley）支持探索、转型和创新，倡导知识向善。作为科研和学习领域值得信赖的领导者，我们提供前瞻的解决方案和服务，助力求知者应对重大全球挑战。我们倡导进步，为求知者赋能，拥抱挑战，创造机遇。凭借200多年的出版经验，始终引领求知者向前迈进，照亮他们在个人、教育和职业发展的每一段前行之路。在世界范围内，我们助力创新者突破障碍，赋能科学发现，助力职业发展，塑造前沿思想。我们的网站Wiley.com。
WILEY
MaterialsViews
Wiley旗下材料科学类期刊官方微信平台
推送材料科研资讯｜访谈材料大咖新秀
分享撰稿投稿经验｜关注最新招聘信息
点击“分享”，给我们一点鼓励吧~
