相辉AI+学科交叉论坛丨信任边界:探索AI大模型的可靠性与未来

文摘   2024-12-03 14:27   上海  

筚路蓝缕,以启“相辉”。相辉代表了“团结,服务,牺牲”的复旦精神,在学术科研中攻坚克难、动真碰硬的风范正是复旦精神的时代彰显。


由党委研究生工作部和研究生院主办、研究生会承办的“相辉学术文化节”系列活动立足研究生学术文化建设,旨在展现复旦在学术科研中攻坚克难、动真碰硬的风范,引导广大研究生树立科研报国志向,促进多学科交叉融合,丰富实验室文化内涵,筑牢科研安全底线。




· 学科交叉论坛 ·


在党委研究生工作部、研究生院的指导支持下,校研究生会面向校内师生开展第三届相辉学术文化节。本届相辉学术文化节“学科交叉论坛”将展示课题组交叉应用的前沿成果,呈现组内良好的团队氛围与文化内涵,展现复旦科研人挺膺担当,敢于创新的时代风貌。






11月13日晚,相辉AI+学科交叉论坛暨第177期新闻晚会“信任边界:探索AI大模型的可靠性与未来”,以专题分享、嘉宾对谈、师生互动的形式,在HQ201教室顺利举行。本次新闻晚会邀请了复旦大学新闻学院青年副研究员蓝星宇老师以及《第一财经》YiMagazine新皮层主编吴洋洋老师,从智能领域的新媒体IP等不同视角出发,深入分析AI在新闻行业中的应用现状、潜在风险以及未来发展趋势。



吴洋洋老师首先以个人经历为例,从“AI时代内容生产与消费”的视角展开分析。


图1:吴洋洋老师分享

 

在如今的媒体环境下,消费者早已在无意中接触到了大量AI生产的内容。与此同时,日益精准化的平台算法推荐加上爆炸式增加的媒体信息量,让很多新闻都处于“阅后即焚”的状态,人们得不到思考与记忆。在这种媒体生态下,记者需要拥有高洞察力与思考能力,能够将技术性内容翻译成大众易懂的信息,揭示其中的深层含义;平台工作者则需不断适应这个时代的用户特征,如注意力持续时间短、结构框架建立困难等,并随之改变内容呈现形式。


蓝星宇老师则从科研的视角,展开讨论了AI文生图中存在的性别偏见问题


图2:蓝星宇老师分享


首先,主流文生图的平台和模型大多是西方训练开发的,加之女性外貌阐释中普遍存在不同于男性的特点,因此,AI文生图对于女性形象塑造的准确性存疑。其次,单论AI文生图,其大批量生产的新内容会对已有的图像市场造成极大干扰;其强互动性也加强了人机信任,进而加剧回声室效应,并不断放大主流文化。在大模型主要由西方公司和平台驱动的当下,放大的显然是西方偏见。因此,在AI时代的话语权主要被西方掌握的背景下,传递东方视角的需求日益迫切。


随后,两位老师通过问答形式展开对谈。针对这两年AI在公众视野中的形象变化,吴老师指出,了解AI的人可能因为对可控性的认识,对AI拥有更加乐观的态度。从新闻生产和学术研究的角度来说,普通人要对AI拥有基本的了解,这可以在一定程度上提升工作能力。蓝老师由此延伸道,AI时代下对沟通、提问与批判的诉求对中国孩子的教育也提出了要求。至于如何避免“阅后即焚”,两位老师通过两种极端的对比提出了不同目的下的信息检索方式,并对AI技术的信息搜索整合能力提出了展望。

 

图3:两位老师对谈中


针对AI工具是否可信的问题,老师们指出:信息的真假参半与信源的局限性是可信度低的重要因素。而随之带来的偏见不仅仅是现实社会的折射与不同数据库的选择,还更有可能经过不断的放大发酵,带来更大的问题。


对于AI在新闻实践中的作用,老师们更倾向于把AI当做一种提高工作效率的工具而非替代品。除此以外,老师们也指出,低端的内容生产可能会被取代。因此,在这种环境中保持自身思维的锻炼是必要的。最后,拓展到行业内容之外,面对AI新技术创新,可以通过前期比对工作,对所有工具有一个大致了解,再进行后期的深入认识或是工作。


在互动环节,同学们就AI大模型的发展程度与技术制约等话题与两位老师展开讨论。


在活动最后,嘉宾与同学们一起合影留念。至此,相辉AI+学科交叉论坛暨第177期新闻晚会圆满落幕。

 

图4:两位老师和同学们合影

 

图5:讲座结束后,同学们积极和老师交流



来源:复旦新闻青年
编辑:融媒体部 赵语艺



复小研
复旦大学研究生会
 最新文章