2024年第5期
“大语言模型”多人谈
本期嘉宾
刘鹏远
北京语言大学信息科学学院
重视大语言模型对价值认知的重塑，防范国家意识形态相关风险
当前，为确保以大语言模型为核心的人工智能按照与人类价值观相匹配的方式行事，规避可能给人类带来的灾难性风险，国内外都会对大模型进行价值对齐。因此，要重视价值对齐的大模型对价值认知的重塑，防范国家意识形态相关风险。
大语言模型能够生成具有逻辑性和说服力的文本，能够模拟并反映大模型内部的价值观、道德观及文化观念。在个人层面，用户在与大模型及其应用的频繁交互中，会不自觉地受到其传递的价值观的影响，甚至会改变自己原有的价值观，接受其传递的价值观，影响自己的决策判断、行为模式和道德观念。在社会层面，基于大模型的各类智能应用作为信息传播的重要工具和推手，会加速或加强大模型内部某些价值观的传播与普及，并引起社会价值观的转变。长此以往，个人与社会的价值认知都将被大模型价值观重塑。
重塑价值认知将会带来安全风险，尤其是国家意识形态相关风险。在价值对齐的大语言模型重塑的价值观与国家核心价值体系相悖的情况下，如果重塑的是中国民众或社会的价值认知，则可能影响中国的意识形态安全，影响民众的国家认同，削弱国家凝聚力与向心力，加剧社会内部的矛盾与冲突，影响社会的稳定与和谐；还可能为外部势力渗透、煽动分裂提供可乘之机，导致社会动荡、政治冲突甚至民族分裂等严重后果。如果重塑的是外国民众或社会的价值认知，则可能影响中国的国家形象和国际地位，导致中国在国际舞台上丧失话语权和影响力，与他国之间关系紧张、信任缺失、合作受阻、发生贸易战，陷入外交孤立，进一步可能引发各类实质性冲突。
重视风险，应多管齐下，提前布局应对。首先，加强中国国产大语言模型的技术研发与监管，确保其所对齐的价值观符合中国核心价值体系与意识形态；其次，加强国际合作，共同制定大模型价值对齐的国际标准，维护全球意识形态安全；最后，主动布局，推动中国国产大模型走向国际，服务全球民众，占领国际价值体系与意识形态高地。
该文发表于《语言战略研究》2024年第5期，引用请以期刊版为准，转发请注明来源。
编排：逯琳琳
审稿：王 飙 余桂林
相
关
推
荐
《语言战略研究》入选为CSSCI（2023—2024）来源期刊
《语言战略研究》入编《中文核心期刊要目总览》2023年版语言学类核心期刊
主持人语丨杨尔弘，胡韧奋：大语言模型与语言研究的双向赋能与融合发展
詹卫东，孙春晖，肖力铭：语言学知识驱动的空间语义理解能力评测数据集研究
本刊从未与任何第三方合作从事征稿、审稿及发稿活动
从不以任何形式收取版面费、审稿费
请认准本刊官方网站界面→
编辑部联系方式
电话：010-65219062，010-65219060
电子邮箱：yyzlyj@cp.com.cn
地址：北京市东城区王府井大街36号
投稿网址：yyzlyj.cp.com.cn
订阅方式
1.全国各地邮局订阅，邮发代号：82-104.
2.网店订阅：
（1）商务印书馆官方微店 （关注商务印书馆微信公众号；点击公众号页面底部的“官方微店”；在微店中搜索“语言战略研究”即可下单）
（2）商务印书馆京东旗舰店 （登录旗舰店，搜索“语言战略研究”即可下单）
3.中国邮政—微商城（微商城中搜索“语言战略研究”，即可预订全年）
↓↓↓点击“阅读原文”可访问本刊官网
