大模型上下文长度优化与通用能力提升,助力高效财务分析!

科技   2024-10-31 07:45   广东  

🎉 金蝶云·苍穹V7.0新特性系列文章重磅上线

每工作日早上07:45

准时为你带来最新产品资讯


面对冗长的财务报告和复杂的数据分析,提取关键信息令人头疼?

普通大模型处理超长文本效率低下,频繁切换输入令人疲惫?

别担心,财务大模型通过上下文长度优化和通用能力提升,一次性解决长文本分析难题,并让模型在面对不规范数据和复杂指令时更加稳定可靠,确保准确执行您的每一个需求,大幅提升财务分析的效率和准确性~















业务场景














目前,普通大模型在面临一些财务业务场景时,可能存在以下问题:

场景一:财务人员向财务大模型提交长达数万字的年度财务报告,普通大模型面对如此超长的文本,往往难以完整、高效地在一次对话中处理。

场景二:财务人员在查询成本结构时,可能会使用不够专业的术语,或者表述上存在模糊性,例如“找一下公司今年的花费数据”。由于提问中可能缺少“成本”或“费用”等关键字,普通大模型可能无法准确回答。

场景三:财务人员向财务大模型发出复杂的、多步骤的指令时,模型可能会因为指令不够明确或指令上下文的变化,导致无法精确执行用户的需求。例如,在生成财务报表后进一步请求细分数据时,模型可能会无法理解用户的上下文意图,给出错误或不完整的结果。

场景四:财务人员向财务大模型发出归纳总结庞大的财务报表、预算数据或历史交易记录的指令时,模型可能无法准确地理解这些数据,导致无法提炼出简洁、明确的总结。

针对上述财务场景中的问题,我们的财务大模型进行了长度优化和通用能力优化,以支撑更长的文本处理和更复杂的数据分析任务。这两项特性的引入,将极大地提升财务大模型的效率和准确性,从而提高财务分析师在处理和分析大量财务数据时的工作效率。



适用版本














金蝶云·苍穹V7.0.1及以上



适用对象














财务大模型用户



特性介绍














长度优化


长度优化,指的是提升大模型在一次处理数据时能够接受的最大文本长度

在财务领域中,财务报表、合同、预算报告等通常包含大量的数据或文字。如果没有足够的上下文长度,用户可能需要将这些长文本拆分成多次输入,效率低下。通过长度优化,财务大模型可以一次性处理更多内容,避免用户频繁切换或重复输入,极大提升用户体验。

例如,在下图中,用户可以输入超长的背景材料后进行提问。



通用能力优化


通用能力优化包括鲁棒性能力优化、指令跟随能力优化、归纳总结能力优化


1. 鲁棒性能力优化


模型鲁棒性,简单来说,就是指模型在不同的情况下都能稳定、可靠地工作。即使遇到一些异常情况、错误数据或意外输入,模型也不会轻易出错,仍然能给出合理的结果。这对于大模型具有非常重要的意义,尤其是在财务这样敏感且复杂的领域。


通过鲁棒性优化,模型能够在面对不完整、不一致或有噪声的数据时,依然保持稳定的性能,确保生成回复准确。例如,在下图中,即使用户的提问并不完全准确,基于财务大模型的cosmic助手依然能够回复正确答案。



2. 指令跟随能力优化


指令跟随能力是指模型准确理解并执行用户发出的指令的能力。通俗来说,就是用户给出指令后,模型能够精准地按照指令操作或提供反馈,而不会误解用户意图或提供与指令不相关的内容。


在复杂的财务业务场景中,需要确保用户的每个提问都被正确理解和执行。用户对于大模型的提问通常涉及大量的多样化的指令,如财务通识、数值计算等任务。


财务大模型的指令跟随能力优化后,用户可以用简单的自然语言或专业术语向模型发出多样化的指令,而模型能够迅速准确地执行指令,确保按照用户预期完成,如下图所示。



3. 归纳总结能力优化


归纳总结能力是指大模型从大量复杂信息中提取出关键内容,并将其浓缩为简明、易懂的总结的能力。


财务领域通常涉及大量复杂的数据和报告。通过强大的归纳总结能力,财务大模型可以从庞大的财务数据中快速提取关键信息,为用户生成简明的财务报告、预算摘要或分析结论。这种能力能够减少用户阅读和分析大量原始数据的时间,显著提高工作效率。例如下图中,财务大模型能够对财报进行归纳总结。




亮点价值














亮点一:支持16K超长上下文推理

财务大模型现在支持处理长达16K字符的上下文,让用户能一次性上传和分析大量财务数据,大幅提高了用户在处理长文本财务报告、预算对比等任务时的效率,避免了繁琐的多次交互,并减少出错几率。

亮点二:通用能力显著提升

财务大模型能够更加准确地执行数据归纳、趋势分析和报告生成。无论是处理复杂的财务数据,还是生成详细的预算报告,用户只需简单的对话操作即可完成,提升了整体的用户体验和数据处理能力。

亮点三:高效、稳定的用户体验

通过鲁棒性优化,财务大模型在面对各种财务场景时更稳定,处理不规范数据或突发问题时仍能给出合理的结果,大大提升了财务大模型的可靠性。



常见问题














财务大模型在处理超长上下文时,是否会影响推理速度?

虽然上下文长度扩展至16K,但模型通过性能优化,确保在处理大数据量时依然保持较高的推理速度。为了避免卡顿,建议在特大数据量场景下合理分批处理,同时保持模型资源的优化配置。


如果输入数据超出模型上下文限制,会导致什么问题?

当输入数据超出16K上下文限制时,模型可能会自动截断超出部分,影响最终推理结果的完整性。建议在这种情况下对数据进行预处理,确保关键信息被优先输入,或者将数据分段处理。



注意事项














虽然模型的通用能力有显著提升,但过于复杂的指令或数据可能依然带来理解偏差。建议用户在指令输入时尽量清晰明确。



划重点















财务大模型,专注于财务领域,充分利用大语言模型的强大能力,并通过长度优化和通用能力优化,使模型性能进一步提升,帮助用户在复杂的财务场景中高效运作。



#往期推荐#

# 苍穹智能问答,秒懂你的需求

苍穹编程助手,开启AI编程新纪元

憋不住了,终于可以说出来了!

前方高亮,金蝶云·苍穹V7.0新特性见面会来了!



对文章有任何疑问或建议,欢迎评论区留言~

PaaS平台那些事
分享苍穹最新特性、功能使用和开发小技巧、最佳实践等,做苍穹用户的知心朋友
 最新文章