AIGC背景下，出版业可能陷入的新风险及应对措施

出版业是内容产业，内容是出版工作的起点，因而内容生成方式的变革在短期内即直接给出版目标的实现带来了不确定性，内容安全、版权合法性、出版数据安全等问题伴随新技术的应用而出现。

使用AI生成内容为出版带来了创新和便利，但同时也伴随着一系列关于内容安全方面的挑战。人工智能作为技术物，天然内化着技术创造者的意识形态、价值偏见与情感取向，再加之受训练数据集的限制，所生成的内容不可避免地具有意识形态属性。作为生成式人工智能代表的ChatGPT，其主要数据来源在美国，西方价值观会大量出现在人机交互的过程中,其生成的内容明显地表现出英语世界尤其是美西方国家的意识形态与价值观念。

AI生成内容依赖数据和算法，但因为数据规模、数据质量、数据本身的问题，以及算法漏洞、算法错误等技术问题，导致一本正经胡说八道的“AI幻觉”现象屡见不鲜。

人工智能生成内容就有可能出现以下问题：直接使用西方的人工智能大模型，基于西方语料大模型而生成的内容无疑会存在意识形态问题；AI生成的内容可能基于训练数据中的偏见或错误信息，导致生成的内容含有不准确或误导性的事实；如果AI模型的训练数据集带有偏见，那么生成的内容也可能有诸如性别、种族、宗教等方面的歧视偏见；AI会生成貌似合理，但与输入问题意图不一致，同事实不一致、同常识不一致的内容；等等。以上问题均对内容的公正性和准确性构成威胁，在创作领域大量使用AI生成内容的趋势之下，出版的内容安全风险有越来越严重的可能，这无疑对出版的把关人作用提出了更高的要求。

应对内容安全风险的重点在于制定出版应用AIGC的行为规范，引导出版业规范使用人工智能。

人工智能不是完美的，充分发挥其优势，正确认知并遏制其引发的风险是应用人工智能的正确方式。为规避内容生成方式变革所带来的直接风险，确保AI技术在出版流程中的规范应用，迫切需要在全行业范围内制定规范指引，对出版应用AIGC的行为进行规范，这包括：针对AIGC生成内容存在的安全风险，明确对AI生成内容的把关审核主体及其责任，强调“谁出版谁负责”的出版主体责任，强调坚持意识形态把关和内容三审制度；针对版权问题可能导致的风险，强调守法原则，尊重原创作品的版权，加强版权合法性审核，确保AI生成的内容不侵犯他人的著作权；强调公开透明原则，对作品中使用AI创作或辅助创作的情况要求做出公开声明，说明AI在创作过程中的作用；对应用AI进行创作的行为进行合规性的界定，明确界定AIGC在出版的使用范围以及允许事项和禁止事项；针对数据安全风险，强调对AI服务来源正规性、合法性的审核，明确要求使用经过国家网信办备案的大模型，制定实施严格的数据脱敏措施，确保隐私信息不被滥用或泄露。

具备作品外观的人工智能生成内容是否应当受到著作权法的保护是近年来知识产权法学界热议的问题，同时，司法实践中也开始出现相关案例。然而，关于人工智能生成的内容是否是“作品”，是否享有著作权在法律上仍未得以确定。当前的法律框架并未明确将人工智能视为法律上的自然人，也未明确人工智能是否可以被视为拥有著作权的“主体”。

从全世界范围看，基于著作权只保护由人类运用其创造力生产的内容的原则，AI生成内容的著作权归属是个悬而未决的问题，在美国就连续发生了多起驳回AI生成作品著作权登记申请的判决。在我国，虽然近期几起有关AI生成内容的法律诉讼做出了有利于AI生成方的判决，但上述判决引发了巨大争议。

因而，在人工智能生成内容的著作权归属未有定论之前，出版应用AIGC将始终面临著作权风险。在产业领域，出版机构在是否接受AI生成内容方面的态度则不一致，部分出版机构明确不接受AI写作的稿件，如上海果麦强调著作权的合规审核流程，明确禁止使用AI稿件，但多数出版机构并未特别强调禁止AI稿件，一些出版机构则通过AI生成内容来提高内容产出效率、降低内容产出成本。出版工作以著作权为基础和起点，著作权存在争议的AI生成内容进入出版环节，容易给出版目标的实现带来巨大的不确定性。

针对AI生成内容的著作权问题，出版业不能缺席，需要提出来自出版界的解决方案。

有关AI生成内容的著作权风险是出版界普遍关注的问题，也是影响AIGC出版应用的一个重要因素。出版工作以著作权为基础和起点，存在著作权争议的AI生成内容进入出版流程，会给出版带来巨大的法律风险，这事关出版业的切身利益，因而在有关AI生成内容著作权的研究和论证上，出版界不能缺席，要积极争取有利于出版发展的解决方案。

AI生成内容的著作权归属并不仅仅是一个简单的应否赋予著作权的问题，而是要形成一套新的适用于AI生成内容特性的著作权制度。在AIGC成为越来越重要的内容创作方式的情况下，积极促进著作权法与时俱进地进行更新，不仅是规避AIGC著作权风险、推进人工智能出版应用的前提，更是出版产业界和出版学术界的共同责任。出版主管部门要积极推动出版产业界和出版学术界对此问题展开研究，形成出版界的解决方案，在此基础上，组织来自出版界的人大代表、政协委员，针对该问题提出来自出版界的议案或提案，发出出版行业的声音，进而对著作权法的修订贡献出版界的智慧。

人工智能技术投资巨大，建设大模型更是需要巨量投资，出版业缺资本、缺技术人才，因而在应用AIGC方面普遍选择与技术公司合作，引入大模型并将其嫁接进出版流程，这就导致出版机构不掌握应用AIGC的主导权，完全依赖技术公司提供服务的局面。

这一局面将带来两个问题：其一，出版的数据安全问题，因为是依赖外部公司的技术服务，出版机构自身的内容数据、生产数据、销售数据、用户行为数据不得不向技术公司开放，数据的安全性无法得以保障；其二，图书主业的安全性问题，一旦将外部AI服务接入图书，形成“图书+AI服务”的出版模式，AI服务就与图书深度捆绑，但因为出版机构无技术掌控权，所以这种深度捆绑就对图书主业的安全造成压力，一旦与技术公司的合作出现问题，出版机构无AI应用的主导权、无替代方案，就会对图书主业造成冲击。

数据安全的另外一个问题是大语言模型数据来源的合法性与合规性问题，出于对数据的海量需求，内容数据来源的合规性与合法性往往会被忽视，盗用、滥用内容数据就可能成为大概率事件，在美国，包括《纽约时报》在内的出版机构对OpenAI和微软等技术公司发起了多起著作权侵权诉讼。AI技术公司未经授权使用具有版权的内容，侵犯版权人的合法权利，是一个亟待应对的重要问题。相应地，一方面出版应用AIGC面临侵犯他人著作权的风险，另一方面出版机构自有内容面临内容数据被盗用、滥用的风险。所以，尽管AI技术迅速发展，基于AI的新业态不断涌现，但很多出版机构却顾虑重重也无力跟进。

实施“以内容换技术”策略，掌控AI出版应用的主导权，是出版融入人工智能发展的可行路径。

出版应用AIGC引发数据安全和图书主业安全风险，其本质在于出版业没有能力建设自有的AI技术系统，出版应用AI离不开与技术公司合作，所以，对这一风险的应对就要放在人工智能发展的大背景下进行思考。

在决定AI发展的数据、算力、算法“三驾马车”里，数据质量是决定人工智能发展的基石，然而中文高质量数据不足，有关研究显示，在Hugging Face的高质量数据集中，中文仅占3.2%，和波兰语并列第九（来源：OECD，2023），高质量中文语料数据不足，阻碍了我国人工智能产业的发展。

出版业天然是高质量内容数据的生产者，积累并拥有大量高质量内容资源，对高质量数据的巨大需求与供给不足的矛盾，赋予了出版业在AI发展中的特殊价值，出版业无疑不能缺席建设高质量中文大模型的进程，所以，应对出版的数据安全风险，与其“堵”不如“疏”，与其禁止使用，不如积极主动、开放合作。推动组建出版业内容数据联盟，由其作为一个整体，寻找优质的AI技术公司进行合作，一方面出版业能够在高质量中文语言大模型的建设中发挥积极作用，另一方面，通过实施“以内容换技术”的策略，推进行业模型的建设，确保图书主业安全，积极掌控AI出版应用的主导权。

在开放合作中，探索研究有关出版业自有内容数据资产的确权、定价、交易、保护、监管、利益分配等课题，站在战略高度重视数据资产的版权保护、积极推进数据资产交易制度的建设，以市场化手段推进出版机构与技术公司开展合作，以合作推动对内容数据的版权保护，以合作推进我国高质量中文数据的生产、交易和转化使用。

人工智能生成内容具有效率高、成本低的优势，随着应用的推广，新内容生成方式将重塑传统出版生产方式，其结果是，大量生产可能加剧出版供给侧竞争风险，而生产方式的重塑必然要求业务流程、组织结构、运营方式等做出相应变革，传统出版管理模式若不能适时做出调整必将导致管理与生产方式变革相脱节的巨大风险。

随着AI技术深度融入出版，AIGC广泛应用于选题策划、稿件审校、装帧设计、市场营销等出版工作，在提升出版流程运营效率的同时，必然导致出版流程的重塑、人员岗位的调整、组织结构的再造和运营机制的变革，进而倒逼出版管理模式进行调整。例如，目前以内部专业分工为基础的职能型组织结构及工作流程将逐步弱化，技术团队融入、跨学科团队建设、灵活的组织架构均成为管理变革的可能方向，而随着大量工作依靠外部组织协同完成，“虚拟组织”大量存在并在出版流程上发挥关键作用，出版机构未来有大规模“瘦身”的可能，这些都要求出版管理者做出有预见性、前瞻性的调整。

工作要求的变化、组织运营模式的改变，既对出版工作者的知识储备、专业能力提出了迭代更新的要求，也对出版管理者的计划、组织、领导、激励、控制等管理职能提出了新的要求，更要求在岗位设置、组织架构、资源配置、管理机制等方面有适配AI应用的管理变革，固守传统出版管理模式，不及时进行管理变革，将无可避免导致管理与生产方式变革相脱节的风险，显然，管理滞后无疑将带来不适应生产方式变革甚至是阻碍变革的巨大风险。

AIGC的出版应用不仅仅是一个业务问题，更是一个管理问题，适时推进管理创新，鼓励出版机构进以管理创新促成变革，是出版应用AI发展到一定阶段的必然要求。按照美国经济学家熊彼特（Joseph Alois Schumpeter）的观点，所谓“创新”，就是“建立一种新的生产函数”，也就是说，把一种从来没有过的关于生产要素和生产条件的“新组合”引入生产体系。而管理创新（Management Innovation）则是指企业基于生产要素和生产条件的“新组合”，形成创造性思想并将其转换为有用的产品、服务或作业方法的过程。

从管理视角看，管理创新的实质是用创新性的思想指导企业实施计划、组织、领导、协调、控制等管理职能，以协调他人的活动，使别人同自己一起应对新的环境，用新的产品和服务满足用户需求、实现企业目标的活动过程。

AI技术深度融入出版，必然导致出版流程的重塑、人员岗位的调整、组织结构的再造、运营方式的变革，这必然要求进行管理创新并以管理创新促成变革。这包括，进行出版流程的再造，根据AI生产方式的要求，优化流程、调整结构，消除阻碍AI作用发挥的流程堵点；优化人力资源配置，对工作岗位及时进行调整，减少传统职能岗位，增设AI技术、数据分析、版权合规审核等新岗位；及时进行组织结构调整，对职能型组织结构进行拆分与合并，采用灵活的组织架构，推动组建跨学科团队；制定促进AI应用的规章制度，将AI应用情况纳入员工的能力测评和绩效考核体系；制定指导AI应用的行为规范文件，指导员工正确使用AI技术；等等。

AIGC具有自动、高效生成优质内容的功能，从长期看，随着AIGC成为重要的内容生成方式，AI对部分出版工作技能的替代、出版对AI的技术依赖乃至创新衰退等风险将可能发生；而优质内容无需经过出版的加工流程即可绕过出版而进入市场，出版的功能有逐步弱化的风险。

随着AI技术嵌入出版流程并逐步深入使用，AI将对出版流程中的一些工作技能造成替代性影响，这可能包括文字审校、美术设计、营销推广、客户服务等，从而促成出版业知识加工属性逐步降低，知识产品策划、产品运营属性逐步增强的趋势，未能体察到这一趋势并未雨绸缪做出相应调整，则很可能令出版机构面临技能替代造成的人力资源方面的风险，包括职业技能被AI替代后的人力资源冗余以及缺少熟练应用AI技术人员的人力资源短缺，从而导致包袱沉重和新技能短缺并存的局面，出版的发展将因人力资源与AI应用要求的不匹配而受到影响。

与技能替代相对应的是，随着AI的深度应用，过度依赖AI将很快导致AI依赖和创新衰退的风险，这包括，过于依赖AI辅助工具，可能导致技能退化乃至最终缺乏必要的专业技能，一旦AI技术出现故障，可能无法独立解决问题；同时，AI倾向于优化已知的、经过验证的内容模式，这可能导致出版物在风格、主题上的同质化，影响出版物的多样性和内容深度，减少原创内容的产生，进而造成出版内容创新性衰退的风险。

所以，推动出版教育变革，面向AI时代的发展需求，培养新型出版人才，是应对AI替代、AI依赖与创新衰退风险必然之路。

应对技能替代、AI依赖与创新衰退风险，需要从业者具备新的知识与技能，尤其需要加快培养具有跨学科背景、AI技术背景的新型出版人才，因此，出版教育与职业培训必须做出相应变革。

其一，出版学科的课程设计需要面向未来进行革新与扩展，淘汰已经不适应未来需要的课程，引入更多与AI相关的课程，如信息科学、大数据处理、机器学习、自然语言处理等，培养学生掌握数据分析与数据处理的基本技能以及理解AI在内容生成、个性化推荐、智能编辑等方面的应用。

其二，注重培养创新实践能力，人工智能时代，创新的价值得以凸显，人机协作的工作模式需要人发挥更多的创造性，因而出版教育应通过创新实践，教导学生如何在与AI工具协同工作中发挥人的创造能力，而不是简单地依赖技术，避免技术依赖和创造性衰退。

其三，针对AI可能导致的技能替代，加大有关人机协作技能的培训，促成现有技能向应用AI开展工作的技能转变，在AI应用实践中加速新技能人才的成长。综上所述，新的变革需要新的人才，新的人才才能推动行业的发展，因而需要推动出版教育变革，培养适应AI时代的新型出版人才。

随着新媒介技术的发展，纸质媒介面临新媒介的替代竞争，AI的出现无疑加速了这一媒介替代效应，并将进一步加速降低纸媒的效用，从长期看，传统出版在内容生产与传播价值链中的作用有逐步弱化、甚至逐步边缘化的风险。在这种长期趋势之下，图书产业的边界将可能被进一步压缩，传统出版业也将迎来巨大的挑战。

同时，伴随着AI技术的发展，一方面，创作门槛降低、创作主体变多，创作者和内容将出现几何级的“双增长”局面，另一方面，新媒介在内容传播方面具有更大优势，内容获取方式将更加多元，内容生产与消费的边界也将逐步消失。

在AI的辅助下，内容生产与传播模式将发生革命性变化，内容生产与内容传播不仅能做到更快、更好，还能不断降低人机协作生成内容过程中对人的能力的要求，即普通人也可以通过AI高效、高质完成知识生产，而无需或较少需要包括出版社编辑在内的其他专业人员的协助，因此随着AI技术的发展和应用普及，出版所发挥的内容生产作用（即对内容产品的策划和编辑加工）和内容传播作用（即内容以图书方式发行）可能逐步弱化，一方面内容无需出版即可进入市场，另一方面内容可以绕过出版，以各种新媒介形式进行传播，出版在内容生产与内容传播价值链中的作用面临弱化的风险。

应对这一风险，就需要推动出版深度融合转型，重塑出版在内容生产和传播价值链中的价值。面对新媒介的替代竞争，传统出版只有坚定不移地走融合转型之路，只有彻底改变将图书作为主要甚至唯一产品交付形态的状况，围绕着知识内容和用户的应用场景，为用户提供多元化知识产品服务，彻底将出版机构由图书出版机构转变为内容生产、内容服务机构，完成传统出版的深度转型，出版的内容生产与传播功能逐步弱化的局面才能得以遏止，出版业才有持续发展的可能。

数智时代的出版产业可能分化出大众市场和专业市场的二元型结构特征：在大众市场，出版的融合发展存在两种可能，其一是“图书+AI”，即用AI赋能图书产品，依靠增加图书产品的效能实现内容生产和传播的价值，其二是“AI+内容”，即图书内容融入AI体系，成为AI提供给用户知识服务的一个部分；在专业市场，出版可以凭借专业内容的积累，在建设专业领域的人工智能专业（小）模型方面发挥作用。

从本质来看，无论面向大众市场还是专业市场，实现融合转型的关键因素，一是要做好内容的数字化和资产的数据化，二是要拥有全面且优质的内容，内容全不全成了重要的竞争优势。因而，推动出版的深度融合转型，重塑出版在内容生产和传播价值链中的价值，就需要围绕上述两个关键因素，做持续的努力。