Ollama 的新模型和结构化输出

文摘   科技   2024-12-09 08:21   内蒙古  
1. 引言

Ollama现在已经升级到最新版本0.5.1(ollama --version),Ollama Python API升级到0.4.4,open-webui升级到0.4.8,均为当前最新版本。


2. 新的模型

新增的llama3.3 70B(43G)模型据说可以提供与 Llama 3.1 405B 模型相似的性能。根据我们的测试,qwq:32b模型比llama3.2模型的输出效果好,下面比较了qwq:32b与llama3.3 70B的输出效果,提示词为"Tell me about FLAC3D of Itasca"。

2.1 qwq:32b

(1) FLAC3D 是一款功能强大的软件工具,用于对复杂的地质力学问题进行三维模拟。它是由Itasca咨询集团开发,该公司以其在计算力学和岩石力学方面的专业知识而闻名。

(2) FLAC3D 是快速拉格朗日三维连续体分析(Fast Lagrangian Analysis of Continua in 3 Dimensions)的缩写,它旨在分析材料在各种载荷条件下的行为,特别是在岩土工程和采矿领域。

(3) 该软件采用有限差分法求解描述材料力学行为的偏微分方程,它可以处理弹性和塑性变形,以及动态和准静态分析。FLAC3D 广泛应用于采矿工程、土木工程、石油工程和岩土工程等行业,如隧道开挖、边坡稳定性分析、土-结构相互作用和岩石破裂模拟等。

(4) 它提供了用户友好型界面,用于创建复杂的几何图形、定义材料属性、应用边界条件和可视化模拟结果。该软件还提供热-水-力耦合(THM)分析和与PFC3D耦合等高级功能。

总之,FLAC3D 是工程师和研究人员了解和预测不同情况下地质材料行为的重要工具。


2.2 llama3.3 70B 

FLAC,即快速拉格朗日连续体分析(Fast Lagrangian Analysis of Continua),是一种用于模拟土、岩石和其他材料在各种荷载作用下的行为的软件程序,它通常用于岩土工程、采矿工程和相关领域,以模拟复杂的地质系统。

显然,在这个实测中qwq比llama3.3提供的信息更具体。


3. 结构化输出

Ollama 现在支持结构化输出,从而可以将模型的输出限制为由 JSON 模式定义的特定格式。事实上,上面就是按结构化定义输出结构的。

from ollama import chatfrom pydantic import BaseModelclass Software(BaseModel):  name: str  purpose: str  description: list[str]response = chat(  messages=[    {      'role': 'user',      'content': 'Tell me about FLAC3D of Itasca.',    }  ],  model='llama3.3',  format=Software.model_json_schema(),)software = Software.model_validate_json(response.message.content)print(software)

qwq产生的purpose: Finite element analysis software for geotechnical structures.

llamma3.3产生的purpose: Simulate the behavior of soils, rocks, and other materials under various loads.


4. llama3.3测试

在open-webui中对llama3.3进行了测试,总结一篇中英文混杂的文档(Mud Rush.txt)。

4.1 概述

讨论了崩落采矿作业中“泥石涌”(mud rush)的概念。“泥石涌”(又称泥流或泥涌)是指泥土、水和碎屑突然迅速涌入地下空间的现象。这种现象可能由多种因素引发,包括强降雨、地质不稳定以及排水系统不良。泥石涌可能带来严重后果,包括安全风险甚至人员伤亡。因此,采矿运营方必须采取主动措施来降低这些风险,确保工作人员的安全。


4.2 预防措施

为减轻泥石涌带来的风险,应实施主动防范措施,例如地质技术评估、水管理、采矿控制、监测以及培训。地质技术监测包括全面调查和持续监测,以识别潜在危险并评估岩体的稳定性;有效的水管理策略(包括排水系统、排水井以及地表水分流)对于减少水的渗透至关重要。强调了严格的采矿控制程序的必要性,以防止矿体堆积并确保物料的均匀流动。监测与仪器设备的应用(如安装孔隙水压力计、伸缩计和倾斜仪)对于监测水位、地面移动及其他关键参数十分重要。此外,基于实时监测数据开发并实施预警系统,可以为矿工提供潜在泥石涌危险的提前预警。


4.3 应急响应

强调了制定明确的应急响应计划和定期进行演练的重要性,以确保矿工能够应对泥石涌事件。在应急响应程序中,针对泥石涌场景进行专门培训可以在事件发生时有效降低风险。


4.4 小结

概述了洞穴探险和采矿作业中泥石涌带来的风险,并强调了采取主动措施以防止此类事件的必要性。通过实施地质技术评估、水管理、采矿控制、监测和培训,采矿运营者可以最大限度地降低泥石涌风险,确保更安全的工作环境。

计算岩土力学
2024年5月8日,《计算岩土力学》建立4周年啦!
 最新文章