招行大模型应用场景已超100个,顺势“成立”数字金融发展办公室

财富   2024-12-13 11:38   广东  

《银行科技研究社》(作者 木子剑在12家股份制银行中,招行是信息科技投入最高的一家;在全国所有银行中,招行的线上渠道建设称得上“名列前茅”。


对于当下最火的人工智能/大模型技术,招行也较早进行布局,并走出了自己的节奏。近日,招行数字金融发展办公室主任高旭磊、信息科技部副总经理俞吴杰在接受界面新闻等媒体采访时,透露了该行在大模型、数字金融建设方面的情况。


招行重点在于建设智算平台、打造垂直大模型,应用场景已超100个


俞吴杰透露,招行于今年初开启智算平台建设,其中包含训练平台和推理平台,这是该行目前针对人工智能/大模型布局的重点。他表示,原来的服务器集群叫通算平台,和大模型相关的则叫智算平台。


算力对于大模型应用场景拓展及相关体验提升的重要性不言而喻。招行未来将持续提升推理集群和训练集群算力效能。


那如何对通用大模型和垂直大模型进行取舍,招行似乎已经做好了选择。


俞吴杰表示,招行不会在通用大模型上花费较多精力,毕竟其对银行专业知识理解有限,在专业领域数据处理能力较弱。招行的做法是,先选择较好的通用模型,将足够的专业知识“喂”给大模型,其中主要是银行业务方面的,未来可能会拓展至保险、证券、基金等与银行关联性大的行业。


据介绍,截至2024年10月,招行大模型应用场景已超100个。俞吴杰认为,大模型应用场景选择标准有“三多”,即钱投入多、人投入多、耗时多,在这些场景能产生更大的价值。


招行对大模型的创新探索,主要以自上而下、自下而上2种方式进行。前一种是做好整体规划,按照业务条线(零售、批发、中后台等)、业务形态(营销、运营、风控等)挖掘场景;后者则是从一线员工了解需求,发掘场景。


另外,俞吴杰表示,招行总行还通过FinTech基金支持大模型建设和应用。


而在大模型“开疆辟土”之时,小模型的重要性仍不容忽视,大、小模型互补并存,将是未来常见的局面。事实上,多家银行正是这么做的。


俞吴杰也认为,大模型的覆盖范围会愈加广泛,因为它可复用,边际成本变低;而小模型需要专门进行开发、部署,成本较高,但两者一定会长期并存。因为小模型有更好的解释性与针对性,在某些场景,小模型的表现会更好,招行会持续使用。


俞吴杰还谈到了大模型存在的问题或局限性,以及对应解决方案。


对于大模型幻觉问题,一是保留人工审核,二是应用检索增强生成技术,让大模型对接外挂知识库;对于资源消耗大的问题,需要不断扩大算力,提高性能;对于数据隐私问题,须在数据训练环节非常谨慎,一定不能使用客户敏感信息;对于大模型生成答案可解释性弱的问题,需要对应用场景进行选择,比如某些决策场景可能不适用。


招行顺势“成立”数字金融发展办公室,职责包括3方面


数字金融作为“五篇大文章”之一,正不断得到重视。招行为此进行了“改变”。


早在2019年,招行总行成立金融科技办公室,由总行战略规划与执行部更名改组而成,定位为全行金融科技的统筹管理与推动部门。而2024年3月,招行将金融科技办公室更名为数字金融发展办公室,且对职责范围进行了更新。据悉,这是为了顺应新一代人工智能技术的崛起。


高旭磊介绍,数字金融发展办公室的职责分为3方面:一是负责全行数字金融的PDCA循环,即制定规划、推动执行、检查评价、优化更新;二是推动全行创新;三是管理Fintech基金。


关于招行推进数字金融的路径,高旭磊透露有2条:一是从上到下,采用演绎的方法,从规划、执行,到检查优化;二是从下到上,采用归纳的方法,在氛围营造下,收集创新的想法,并通过基金对此进行孵化、推动落地。


高旭磊认为,线上化、数据化、智能化、平台化、生态化,是数字金融的5大特征与趋势,这也是招行数字化建设的重要抓手。


毋庸置疑,在银行智能化、数字化转型的过程中,人工智能起着很大的作用。据悉,多家银行在主动拥抱AI,部分银行还强调打造AI Bank。


对于招行来说,其正将“线上招行”的目标转变为“智慧招行”,“AI+金融”是该行目前的重要任务之一。


高旭磊也提到了AI带来的挑战,包括大模型幻觉、价值观和伦理的偏见以及隐私保护、知识产权等问题。但他强调,这些并非最大的挑战,最大的挑战在于,因为害怕这些挑战,而不去运用AI,这样会更落后。


据《银行科技研究社》了解,早在2023年,高旭磊就指出,大模型已具备对中密度人类智能场景进行替代,对高密度人类智能场景进行辅助的巨大能力或潜力,以及大模型所具备的极低边际成本,使得使用同样模型的人和人,组织和组织之间的差距极大缩小,而使用者相较不使用者的优势将进一步拉大。


因此,银行对于人工智能/大模型,不能“抗拒”。


写在最后


招行对于金融科技、人工智能/大模型的重视,是显而易见的。


该行早就将“每年投入金融科技的整体预算额度原则上不低于上一年度本行营业收入的3.5%”写入公司章程,并在业界首创“金融科技创新项目基金”,将上年度营业收入的1.5%用于金融科技创新。


而对人工智能布局,招行起步较早,并在近年加速建设。其2017年成立人工智能实验室;2020年在AI技术自研能力上取得突破;2023年开始聚焦大模型应用与创新,引入千亿参数大模型的同时,在专业场景自研百亿参数大模型,并搭建大模型体验平台,接入多个国内主流大模型;2024年加强推进大模型体系化建设,从基础设施、推理与训练平台、算法与模型、应用开发框架和场景应用等领域全面发力,并完善内部大模型体验平台建设,推进大模型内、外部生态建设。




银行业金融科技社群,有兴趣的朋友请添加群主:yktworld 备注:公司+姓名+职务+银行入群。仅限银行科技工作人员。

银行科技研究社
《移动支付网》旗下新媒体矩阵,银行科技从业者聚集地。
 最新文章