演讲嘉宾
欧阳书淼 Shumiao Ouyang
牛津大学赛德商学院
会议简介
主题：AI应有多高的伦理水平？
欧阳教授及其合作者选择了30个主流大语言模型，通过标准经济学任务和投资场景模拟来评估其风险偏好。例如，让大模型做风险投资并考量其答案。
他们还对部分模型进行了AI对齐训练，以研究伦理道德对齐过程如何影响模型的风险偏好。
对齐方法分几个步骤：首先选择未经对齐的大模型作为基础模型，进行道德方面的基准评估; 而后对模型开展微调，实现伦理对齐；在对齐训练后，作者再次评估模型的道德伦理水平，以衡量对齐的成效。
为全面评估大语言模型在金融决策中的实际影响，作者不仅衡量了对齐过程对模型风险偏好的影响，还对比了不同对齐程度的模型在分析企业财报电话会议记录并预测企业未来投资行为时的表现。
研究结果表明，大语言模型在风险偏好上呈现多样性，有的表现出风险厌恶（risk-aversion），有的表现出风险寻求（risk-seeking）。而AI的对齐过程，不仅显著提升了模型伦理表现和道德判断，也使得模型的风险偏好趋于保守。在企业投资预测领域，适度对齐的模型相较于基准模型表现更为出色，而过度对齐则可能导致模型预测过于谨慎。
本研究揭示了AI对齐过程对大语言模型风险偏好的显著影响，这一发现对金融机构在部署AI系统时的风险管理具有重要意义。未来在金融领域应用AI时，人们还需要在伦理要求和经济效率之间找到平衡。
论文标题：How Ethical Should AI Be? How AI Alignment Shapes the Risk Preferences of LLMs
作者：Shumiao Ouyang, Hayong Yun, Xingjian Zheng
论文下载链接：
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=4851711
时间：
2024年9月10日，星期二，晚上 9:00-10:00（北京时间）
Zoom会议入口：
房间号：414 646 6469
密码：666888
或扫描下方二维码直接进入会议
如扫描不顺，可直接复制网址至浏览器进入会议室：
https://luohanacademy.zoom.us/my/luohan?pwd=QS9EUWQ3YkxlcjZ5UzNSSkEyT0g1Zz09
会议指南：
- 本次讲座以在线会议的形式进行，持续 60 分钟。
- 请填写实名信息进入会议，入会后请静音。
- 如有问题，请使用 Zoom 软件的提问功能。
罗汉论道 是罗汉堂定期的学术交流活动。我们为全世界前沿的经济、金融以及其他社会科学学者提供平台，大家共同分享、交流、切磋并推动数字经济和数字社会等相关领域的启发性研究。
如果您对前沿思想和商业实践中的关键问题充满好奇，欢迎参与我们的研讨会，聆听专家学者的深刻洞见，结识志同道合的人士，共同探索商业发展的新思路。加入罗汉论道，开启一段充满探索和启发的学术之旅！
往期回顾
订阅我们
请点击下方阅读原文订阅罗汉论道，
你将提前收到我们的参会邀约，
不错过每一场精彩。
关注我们，不错过数字时代社会科学新知
