专题论文带读十 AIGC｜90%的高校教授都在关注的话题到底怎么考？

开头/结尾段落：

AIGC，即人工智能生成内容，是在人工智能算法帮助下创建的内容。当前AIGC的代表性应用便是OpenAI基于Transformer架构开发的自然语言处理模型ChatGPT。它是生成式预训练聊天机器人，于2022年11月30日上线后，便展示了人工智能技术的颠覆性力量。ChatGPT能够通过学习和理解人类的语言来进行对话，根据聊天的上下文与用户进行互动、为用户提供类似人类的对话体验，用户可以提出问题、与它进行讨论并获得需要的答复。它的功能很强大，包括语言翻译、内容创建、客户服务等，还能在用户指令下完成邮件撰写、文案策划、多语种翻译、创建和修改代码等任务，是当下最强大的人工智能生成（AIGC）产品。目前人类对ChatGPT这类AIGC工具，最关注的莫过于它输出的答案能否准确、负责、无偏见，持有正确的价值观，符合人类的伦理规范。但是，从人工智能近些年的实践和ChatGPT这几个月的使用情况看，似乎还难以做到。（ChatGPT-开头）

2022年至今，GPT模型、Midjourney模型等一众生成式AI快速迭代，AIGC几乎触及人类实践活动的边界，具备了完成绝大多数办公室工作的能力。面对层出不穷的技术革新，传媒业的发展定位有必要回到价值逻辑的原点，审视传播学众多基础概念所受到的巨大冲击，而“内容”就是其中之一。不止于文本内容生成领域，图片和视频内容生成领域同样受到AI的强大介入。在媒介技术发展和传播生态剧变的当下，“内容”的内涵和外延进一步延展，传统“内容”范式已不足以支撑生成式AI浪潮下传媒业版图的扩张与角色功能的扮演。在内容概念不断延展、内容范式持续迭代的情况下，如何把握媒介内容生产和传播生态的复杂演变成为传媒业面临的关键问题。（生成式AI-开头）

传媒业2015年起开始的“智媒”实践，核心应用线索之一，就是智能化内容生产，从机器自动写作新闻稿件，到智能化的视频拍摄、剪辑以及加工。在创意内容生产领域，机器作诗、写小说、创作音乐与绘画，也并不罕见。近年已经渗透到人们日常生活中的推荐算法，也使得智能分发技术被人们广泛接受。Siri、小冰、小度、机器客服等语音助手或社交机器人，开启了人们与各类机器的对话。任何新技术的出现，无论其生命周期的长短，都有着历史的逻辑，反映着技术演变的某些规律。ChatGPT的背后，是智能传播这个大背景，它的出现也让我们有了一个描画智能传播全面图景、认识智能传播前景的新契机。（智能传播-开头）

人工智能技术的发展让新闻业在技术主义的赞歌和人本主义的固守间摇摆。AIGC新闻对于新闻业到底是忧是喜，并不取决于技术本身，而在于人们如何使用它。毋庸置疑，未来AIGC会取代大量低端的信息传播和重复性的内容生产工作，以AI为代表的技术将在媒体产业深度落地，媒体对技术的使用将从技术探索走向技术工程化，同时产生新闻业新工种，再造新闻生产流程，打造新的新闻产品，逼迫内容生产格局巨变。职业新闻生产者的内容生产也将向理性、深度、独创的方向深入推进，终在新闻场域上实现人类和人工智能共存和协作。（AIGC与新闻业-结尾）

一、AI浪潮下互联网内容生产的现状

（一）灰箱化：AIGC“涌现行为”的可知与不可知

在生成式AI浪潮下，AIGC的“涌现行为”成为互联网内容生产的一个重要特征。ChatGPT等大语言模型（LLM）的行为方式常常超乎创造者的意料，这类行为被称为“涌现行为”。这种涌现行为并非完全不可知，当前大语言模型的状态为“灰箱化”，人们通过提示词介入内容生成模式，结合基于人类反馈的强化学习（RLHF）在一定程度上打开算法黑箱。灰箱化意味着AIGC的涌现行为处于可知与不可知的跨界连接状态，这既是人与算法之间的合理界限，也是算法以用户为导向、以可行性和社会接受效果为衡量标准的体现。

（二）伊莉莎效应：“chat”式类人际交流产生的过度解读与自我消解

生成式AI的内容生成模式以“chat”式类人际交流实现人机交互，这种自然的人机交互提供了高效便捷的信息服务，但也引发了过度解读和自我价值消解等问题。这种现象类似于20世纪60年代MIT研发的Eliza聊天机器人引发的伊莉莎效应，即人们倾向于从计算机输出的内容中解读出符号本身所不具备的意义，认为机器已经具备人类的情感、价值等属性。ChatGPT等生成式AI的“智能”并不能取代人类所特有的“智慧”，正确认识内容的智能化水平成为认识“微内容”的重要一步。

（三）“微内容”：模糊人类要素与非人类要素的边界

在生成式AI浪潮下，“微内容”概念的时代特征是模糊了人类要素与非人类要素的边界。内容生产过程中，传统由人类要素绝对把持的生产环节首次有了非人类要素（生成式AI）的深度介入，并与人类平起平坐。尽管人类要素在内容生产环节仍占据主导地位，但生成式AI的介入使得内容生产变得更加高效和智能。同时，这也对人类的提示工程能力提出了更高的要求，用户提示工程水平的优劣直接决定内容质量的高低。从人类生产内容到“人类+AIGC”式的内容生产，内容内涵的丰富与外延的扩展将进一步升维内容范式，促进媒介内容生产与传播生态的巨大演进。

二、AIGC新闻生产给新闻业带来的挑战

（一）新闻生产者：职业边界的消解导致行业主体性和功能指向模糊

AIGC以量取胜，可能产生大量看上去“令人信服”的内容而占领大众的注意力资源。职业新闻人的生存空间受到挤压，职业行为的合法性边界逐步消解，职业媒体的传统新闻权威性可能进一步被削弱。同时，不同观念的记者个体写出的新闻可能被淹没在相对单一模式化的算法机器写出的新闻中。不同记者对新闻事实的书写因视角、表达、价值偏好等而丰满全面，构建起了多元立体的“媒介环境”，而大量公式化、浅表化和同质化的机器人新闻会带来新闻表达多样性的弱化，最终导致新闻自身环境监测的功能性指向变得模糊。

（二）新闻消费者：新闻生产主体的不确定性造成新闻真实乱局和虚假新闻传播

AI机器人新闻写作对于人类自然语言的理解和处理处于不断升级中，虽然已经能写出以假乱真的新闻报道，但在事实核实方面不够严谨。原本就充斥大量虚假信息的数字环境让大众对虚假新闻的敏感度不断降低，以ChatGPT为代表的AI聚合知识的能力和水平又远超大部分普通网民。因此，AIGC新闻生产出来的看似一本正经的专业信息会加剧专业知识欠缺的大众在“信息过载”环境中的新闻获取行为产生对AI的依赖，可能形成习惯性接受，进一步增加大众对虚假新闻识别的难度。

（三）新闻管理者：新闻著作权的模糊归属引发信息传播失序

从技术逻辑来看，AIGC新闻写作自动生成内容的高速度、高产量使得舆论场会在短时间内充斥大量虚假信息或者误导性信息。ChatGPT等AI技术作为新闻传播工具很容易被恶意生产者所利用，从事信息操纵活动，进行虚假信息的生产与传播，进而扰乱舆论场。而作为管理者而言，若要追责，则面临作品版权的界定问题。然而，学界目前对于人工智能生成内容作品的可版权性尚无定论，由于人工智能创作物不是人的创造成果，其独创性有所欠缺且思想或情感的表达不足，有不少学者认为人工智能生成的内容作品不能被认定为受著作权法保护的作品。但随着AI被认为逐步具备一定的心智认知能力，在内容创作中必然也会有自己的心智贡献和创新，从著作权法鼓励创新的初衷来看，不少学者支持人工智能生成的内容作品具有一定的可版权性。可是AI并非自然人、法人或非法人组织，很难依据法律直接赋予AI以作者身份，如何对其创作的心智贡献和可版权性进行有效界定，对整个著作权概念的存在都将产生挑战。

三、AIGC“以数据为中心”的伦理隐患

（一）数据缺乏多样性，导致系统性偏见

用于训练AI模型的数据，可能不同程度地缺乏多样性，常见的包括人口偏差、内容偏差、历史偏见、技术偏差等。如果用于训练AI模型的数据集不够多样化，那么用它生成的语言模型可能无法准确代表不同人群的经验和观点，这样人工智能生成的内容就可能出现偏差、不准确的问题。数据规模再大，也不能保证其多样性。《连线》曾报道过由于训练数据缺乏多样性，谷歌照片图像识别系统将黑人照片标记为“大猩猩”。

（二）数据集的公正性缺陷，带来价值观对抗、“观点霸权”

人类的信息世界存在各种鱼龙混杂的内容，尤其是目前人工智能采纳的数据如Reddit、维基百科、推特等，有大量用户生成的内容（UGC），很少经过“把关”程序。有网络民族志发现，在推特上受到死亡威胁信息骚扰者的帐户被暂停（比如因为表达了希望特朗普死去的帐户），而发出死亡威胁者的帐户仍然存在。另一种价值观对抗，是在延续目前看似主流价值观的情形下，通过数据集的作用使得既有的有偏向的价值观延续、传播和扩大。这种情形可以称为“观点霸权”。比如有研究表明，白人至上主义、厌恶女性和年龄歧视等观点在训练数据中的比例过高，甚至超过了其在现实普通人群中的流行程度，通过使用这些数据集训练的模型生成的内容，这些不良价值观可能进一步延续和流行。

（三）编码偏差，形成刻板印象

在人工智能机器学习中，将数据转换为计算机算法更容易理解和处理的不同表示形式，这个过程就是编码。有研究发现，在模型中的编码经常无意中将不良的社会偏见用于训练数据，比如将提及残疾人的短语与更多负面情绪词相关联，枪支暴力、无家可归和吸毒成瘾在讨论精神疾病的文本中过多出现，主题偏见可能会导致模型偏见。为了防止偏向，自然语言处理领域使用“毒性检测”来识别和过滤文本数据中的毒性内容--存在偏见、令人反感或对某些人群有害的语言和内容。

（四）难以区分事实与想象的数据，导致虚假信息

人工智能运用的语言模型是在大量文本数据上训练的，其中包括虚构作品、新闻报道和其他类型的文本。语言模型可能无法准确地区分数据集中的事实和虚构类文本，在向用户生成回应时，就可能导致不准确或不恰当的反应。微软的搜索引擎必应的聊天机器人在测试期间，对科技专栏作家凯文·罗斯表达它的名字叫Sydney，并宣称它爱上了罗斯，似乎是把数据集中的那些文艺类作品中的语言，变成了它的语言。

四、AIGC的未来发展路径

（一）人机互补：人类与人工智能优势互补

人类智能形成的知识是有机的、能动的、自主的，甚至在基因里就存在一些知识，而智能机器缺乏最基础的关于现实物理世界的感知能力，它很难学到人类感受和理解的知识。，人类学习存在潜在的偏见和主观性。人类会受到个人经历、价值观、环境和自身情绪的影响，从而做出主观的解释和相关的决定。人工智能的目标则是客观地处理和分析数据、做出决策，而不受个人偏见的影响。因此，人机互相学习、优势互补，从相互协作和融汇中共同获益，是趋利避害的最优解。

（二）数据升级：提高数据集的多样性、代表性和公正性

人工智能通过数据输出所体现出的价值观，实际上，本质上这是人类的价值观。人工智能应成为人类镜鉴，警示人类反省、净化自身，努力生成更优价值观的元数据、向机器提供更好的人类经验，以助力人工智能的发展、服务于人类的进步，更重要的则是：人类用自身理性的价值观引领技术的发展，要通过自身的善训练机器向善、引领人类向善。

（三）伦理规范：制定遵守AI伦理规范，确保AIGC工具的合理应用

在价值观层面，我们始终要关注、反省的是人类自身，技术要努力解决那些由于数据的不恰当、静态数据等带来的价值观对抗、“价值锁定”等风险问题。在文明观层面，首先，人类和机器要共同重视人类最终的知识来源是实践。第二，由于实践的意义，人类数据始终要重视历史性价值，目前最大规模的语言模型如ChatGPT所拥有的也非常有限，是可能狭窄化、浅表化人类文明的。第三，人类要清醒地意识到数据的社会属性包括政治属性，意识到人工智能生成的信息与权力结构的复杂关系，它所延续的文明或文化，有其独特的语境，对此需要持批判性思维。

五、AIGC新闻生产带来新闻业的新趋势和新转向

（一）宏观层面：AIGC新闻改变新闻业底层运行逻辑，促使新闻业深度重塑

AIGC新闻会使传统的新闻运行底层逻辑发生根本改变。首先是新闻定义的变化。随着AIGC新闻的出现，新闻的定义有可能进一步宽泛化，甚至可能演变出一种新的新闻定义——新闻算法论，即新闻是一种特定的算法，概念的外延造成新闻职业的泛化和新闻主体的模糊。其次是AIGC新闻会改变传统新闻价值观体系。。AIGC新闻的出现，从根本上改变了人们对一些基本问题的认识，如新闻真实不再是恒定的静态真实，而成为一种被技术与专业实践所建构的真实，是动态的、可协商的真实；又如重要性不再是公众利益层面的总体重要性，而成为个体层面的微观重要性；再如新闻价值的把关人不再是媒体组织和从业者，AIGC新闻背后的平台甚至是程序员成为把关人的把关人，新闻价值成为一套精密无比的算法。

（二）中观层面：AIGC新闻打破新闻业生产规则，刺激产业链重构再造

新闻业将被迫转型，传统的以时效性为指挥棒的记者会被取代，AIGC必然刺激新闻生产实现转型，往深度、价值、情感、创新等方向转型。只有脱离既有的语料库，才能生产出超越AI机器新闻的新闻产品，这将对传统的职业新闻工作者提出更高的要求，推动职业新闻记者的工作重心从以时效性为导向的采写编往深度和独创方向转变。职业工作者对新闻的把关从生产端后移到审核端。这可能会改变原有的互联网时代扁平化的新闻生产模式。

（三）微观层面：AIGC新闻催生全新新闻产品和样态，推动新闻消费更为人性化

AIGC新闻探索了一种通用人工智能的路线，可以作为辅助性工具赋能媒体多业务场景，也可借鉴其核心算法和产品思维指导相关智能化功能升级。如路透社推出了监测社交媒体的工具Reuters News Tracer，可帮助记者和编辑监测社交媒体中出现的新闻信源，并给出信息的可信度数值。利用智媒时代AI的优势，新闻业可能出现新的业务或新闻产品，如《齐鲁晚报》不仅将ChatGPT算法模型引入齐鲁壹点的采编业务中，未来还计划将ChatGPT技术免费赋能给壹点号创作者。AI可能在媒体行业可工业化落地应用的场景形成大热的核心亮点和产品思维。

✨

人生就像一场修行，也许结果会慢点到来，但永远不要停止向上生长。

24振可录取通知书来啦

也希望明年的这个时候，我们能看到更多属于你们的结果时刻。

一起吹吹嘉陵江的风，吃重庆的火锅，走磁器口的道路。

振可与你一同见证。宝子们，山顶见哦。

「点击图片跳转振可24录取通知书推文」

【24振可考前答题冲刺班、终极模拟考】正在火热招生中！赶紧扫描下方二维码联系小助手吧~

凯凯学长

风里雨里 在线等你

❤️

明年三月，山城见哦。🌛