领衔特刊 || 打破传统技术,中科院又一项顶刊登顶Nature,利用深度学习结合岩土力学成功突破瓶颈!

文摘   2024-12-03 09:02   江苏  

前沿背景

近年来,深度学习技术迅猛发展,已在图像识别、自然语言处理、语音识别等众多领域取得了显著成果。与此同时,岩土工程作为传统的工程学科,面临着复杂的地质条件和多变的外部环境,其研究和应用中大量依赖于基于经验和物理模型的数值模拟与实验分析。然而,传统方法往往存在建模复杂、计算成本高以及对大量现场数据依赖性强的问题,难以高效应对岩土工程中的非线性问题与不确定性挑战。

随着大数据技术的发展,深度学习为岩土工程提供了新的工具和解决方案。通过将深度学习应用于岩土工程,可以从海量监测数据中自动提取有用特征,提升对地质材料和地质现象的预测能力。此外,基于物理信息神经网络(PINN)等新兴方法,将数据驱动与物理驱动相结合,不仅提高了预测的精度,也使模型能够更好地适应物理约束条件。这种跨学科的融合在岩土工程问题中的应用,不仅提升了传统方法的效能,也推动了智能化岩土工程的发展。

通过本课程对“深度学习在岩土工程中的应用与实践”的讲解,学员将不仅限于理论分析,而是能够将深度学习技术灵活应用于岩土工程的实际场景中,提升对复杂地质问题的预测和解决能力。学员可以更加有效地处理大规模监测数据、识别关键特征,并通过数据与物理模型的结合,设计出更精准、可靠的工程预测方案。无论是在科研领域还是工程项目中,掌握这些新技术将为学员提供巨大的竞争优势,辅佐他们在智能岩土工程领域取得创新性的成果!

课程一、深度学习在岩土工程中的应用与实践

课程二、深度学习流体力学

课程三、深度学习固体力学

课程四、机器学习分子动力学

课程五、深度学习第一性原理

课程一、深度学习岩土工程实践与应用


课程目标

1.1 理解深度学习的基础原理

通过理论讲解和实例分析,帮助学员掌握神经网络的基本原理,包括前馈神经网络、卷积神经网络(CNN)、循环神经网络(RNN/LSTM)等深度学习模型的结构与工作原理。

1.2 掌握Python编程与深度学习框架

课程将系统教授Python编程基础及常用科学计算库(如Numpy、Scipy)和数据可视化工具。学员将学习如何使用TensorFlow和PyTorch等主流深度学习框架,搭建并训练神经网络模型。

1.3 学习岩土工程数据处理与特征工程

通过获取TC304等数据库中的岩土工程数据,学员将学习如何进行数据清洗、特征工程以及利用机器学习技术进行特征重要性分析,提升数据的可用性和模型的性能。

1.4 应用深度学习模型解决岩土工程问题

学员将结合CNN、RNN/LSTM等神经网络模型,解决岩土工程中的实际问题,如土体分层分类、渗透系数预测、时序数据建模等。

1.5 探索数据-物理双驱动神经网络

课程将重点讲解物理信息神经网络(PINN)、深度算子网络(DeepONet)等新兴技术,帮助学员了解如何将物理约束融入神经网络中,提升预测精度并保证模型的物理合理性。

1.6 实战案例与论文复现

通过复现实际研究中的经典案例与学术论文,学员将掌握如何应用深度学习技术进行回归和分类任务,进而为岩土工程领域的研究和工程实践提供新的思路。

1.7 深度学习模型的部署与实施

课程最后,学员将学习如何将训练好的模型部署到实际环境中,理解模型优化和调优的基本技术,并结合结课项目进行模型的展示与讨论,提升实际应用能力。

深度学习在岩土工程中的应用课程大纲

Day1

岩土工程物理模型基础&Python基础

上午

1 岩土工程中的基本物理模型及工程问题

1.饱和土与非饱和土渗流模型

1.1.1 Laplace方程及工程应用

1.1.2 Richards方程及工程应用

1.1.3 渗透系数经验公式及工程应用

1.2 基本物理模型的求解方法

1.2.1 边界条件讲解

1.2.2 线性方程的解析解法

1.2.3 非线性方程的解析解法

1.2.4 线性与非线性方程的数值解法

1.3 深度学习在岩土工程问题中的应用案例

1.3.1 分类问题的传统解法和深度学习解法

1.3.2 回归问题的传统解法和深度学习解法

实战演练:求解渗流方程和固结方程的数值解

下午

Python基础

2.Python编程基础

2.1.1 数据结构讲解

2.1.2 逻辑运算讲解

2.2 科学计算库

2.2.1 Numpy讲解与实操

2.2.2 Scipy讲解与实操

2.3 数据可视化

2.3.1 matplotlib、seaborn、pygal讲解与实操

2.3.2 三维可视化库pyvista讲解与实操

实战演练:使用Numpy搭建简单神经网络进行土体量化分层分类

Day2

深度学习基础&神经网络框架

上午

3 深度学习基础

3.1 神经元及激活函数

3.2 前馈神经网络与万能逼近定律

3.3 多种深度神经网络

3.4 自动微分方法

3.5 深度神经网络的损失函数

3.6 最优化方法

实战演练:构建前馈神经网络进行简单回归任务

下午

TensorFlow及PyTorch框架介绍与应用

4.1 TensorFlow框架的模型搭建与应用

4.2 PyTorch框架的模型搭建与应用

实战演练:基于PyTorch构建神经网络模型实现围岩级别智能分类

Day3

岩土工程数据集的获取与预处理&深度学习模型的训练与调优

上午

5 岩土工程数据集的获取与数据预处理

5.1 获取TC304数据库等官方公开数据集

5.2 数据清洗、特征工程、数据特征缩放

5.3 利用XGBoost树模型进行特征重要性分析

5.4 利用SPSS Pro进行共线性诊断与显著性分析

实战演练:获取TC304数据集并进行数据预处理和特征工程


下午

深度学习模型的训练与调优

6.1 深度学习模型的训练

6.2 手动调参、网格搜索调参、随机搜索调参

6.2 利用贝叶斯优化与蛇优化算法调参

实战演练:利用上午所得数据集构建深度学习模型并进行调优

Day4

CNN/RNN/LSTM的应用&数据-物理双驱动神经网络

上午

CNN、RNN、LSTM在岩土工程中的应用

7.1 CNN模型的基本结构与图像识别应用

7.2 RNN的时序数据建模基础与应用

7.3 LSTM的时序数据建模基础与应用

实战演练:使用CNN模型进行岩土数据分类与图像识别

下午

数据驱动与物理驱动神经网络

8.1 物理信息神经网络(PINN)原理及应用

8.2 深度算子网络(DeepONet)原理及应用

8.3 DeepXDE框架介绍与应用

实战演练:利用PINN解决岩土工程中的渗透问题

Day5

实战案例与论文复现&学员结课项目展示与讨论

上午

实战案例与论文复现

9.1 回归问题:复现论文中的回归模型

9.1.1 基于静力触探与机器学习的打入桩竖向承载力预测方法(EI,讲师)

9.1.2 基于XGBoost的堆场软土渗透系数反演研究(北大核心,讲师)

9.2 分类问题:复现论文中的分类模型

9.2.1 基于ML-BO-FA模型的静力触探数据解译研究(硕士学位论文,讲师)

9.2.2 Probabilistic soil classification and stratification in a vertical cross-section from limited cone penetration tests using random field and Monte Carlo simulation(Computers and Geotechnics,JCR Q1)

实战演练:复现研究成果

下午

10 结课项目展示与讨论

10.1 学员展示其结课项目成果

10.2 讨论学员模型的改进与优化方向

注:Day1前,建议学员安装好Python、Anaconda、Jupyter Notebook、TensorFlow框架、


PyTorch框架。如果学员自行安装有困难,会在Day1上午课程最后进行统一讲解。之后各类需要安装的python包都会提前通知学员,如有困难则在课堂上统一讲解。

Python文件网盘链接: https://pan.baidu.com/s/1SsdkCtTtDfDCZqqW06JjhA?pwd=74r4 提取码: 74r4


课程案例图

 岩土工程中的基本物理模型及工程问题



图1 实测值在Robertson经验公式图中的分布(注:空心点指,实心点指)

Python基础



 深度学习基础



图3 回归任务示例

TensorFlow及PyTorch框架介绍与应用



(a)训练集混淆矩阵 (b)测试集混淆矩阵

图4 分类任务示例

岩土工程数据集的获取与数据预处理



图5 用于特征重要性分析的XGBoost模型的决策树结构图

 深度学习模型的训练与调优



图6 贝叶斯优化XGBoost超参数的迭代图

实战案例与论文复现



图7 蒙特卡洛模拟评估指标概率密度

深度学习岩土工程主讲老师

主讲老师来自国家重点实验室,发表多篇EI、北大核心论文,多次使用AI撰写核心论文和发明专利经验,拥有多次AI培训讲座经验和UBC海外访学经验。

流体力学课程概述

从流体力学基础,流体力学仿真基础以及流体力学&深度学习基础,层层递进,深入浅出,最终从代码层级一站式打通从流体力学理论到问题解决的整个流程。本课程注重学科基础和数值建模框架,不仅提供代码上的实操支持,而且从物理层面给出仿真结果的物理解释,适合初学者进阶。课程结合前沿论文,讲解论文论述框架,瞄准当下热点难点。最后,依托所课程内容,提供该主题下论文结构性和系统性撰写方式。

课程目标

培养流体力学和深度学习的建模能力

●课程注重学科基础和科学建模方案,涵盖多物理场耦合问题和控制方程构建,以及问题简化的物理依据。结合控制方程,将问题从复杂到简单,最终在CAE训练中感受如何抓住主要矛盾,精简问题结论;

l课程注重深度学习基础理论,培养从0到1的神经网络建模过程,从原理上理解神经网络,从代码上实现神经网络;

●学习深度学习在流体力学中的应用,比较经典解法和深度学习解法。培养精通流体力学与深度学习的复合型人才,为解决流体力学问题提供另一种范式。

理论与实践并重

●从工程师培养的角度,培养简化问题的能力;

●简化软件上手难度,定位软件或代码为服务于问题的工具;

●手把手教学CFD建模,使用如COMSOL Multiphysics,Ansys Fluent,OpenFOAM 等建模软件,并同步展示控制方程,理解操作的底层逻辑。

追踪前沿动态

●分析国际团队最新研究成果,以探索深度学习在流体力学中的发展趋势;

●拓展学员拥有国际视野,加强与国际同行的交流合作;

●积极鼓励学员在流体力学与深度学习间寻找创新交叉点,跟踪前沿研究。

表培训内容

第一天:流体力学复习

张量基础

拉格朗日描述和欧拉描述

基于连续介质力学的运动学描述

雷诺输运方程

欧拉描述下的主守恒方程:质量、动量、角动量守恒

几类简化流体问题举例 (Navi-Stocks方程简化)

●不可压/可压流体问题

●定常流体问题

●无黏流体问题

●二维流体问题

能量守恒定律与热力学基础

●能量守恒定律

●热力学第二定律及自由能

量纲分析简介

第二天:流体力学仿真

案例解析

●流体耦合问题

●热流耦合问题

●物质输运

●离子输运问题

●多孔材料的流固耦合

流体力学计算方法

●有限体积法

●时间差分算法

●有限元法

■对流问题中的稳定性方法举例

第三天:流体力学实操

COMSOL Multiphysics, OpenFOAM, Ansys Fluent流体力学实操

●单相流

●非等热流以及共轭传热

●稀物质输运

●基于相场法的二相流问题

●多孔材料的流固耦合

●流固耦合-动网格法

●离子输运问题

图表 2 速度大小剖面云图以及流线图

图表 3 压力场

图表 4 灯丝热作用下灯泡内气体的运动

第四天

神经网络基础回顾:感知机、多层感知机

神经网络基本结构:激活函数、损失函数、优化算法

神经网络训练技巧:mini-batch,正则化,dropout

结构化神经网络

●卷积神经网络

●循环神经网络

●物理信息神经网络

●傅里叶神经网络

实操:

●神经网络的代码实现 (Matlab, Python)

●训练技巧演示 (Matlab)

●参数更新算法演示 (Matlab)

●图表 5 神经网络结构示意图

●图表 6 物理信息神经网络处理NS方程

图表 7 神经网络训练早停技巧

第五天

流体力学&深度学习实战:

●CNN在流场预测中的应用 (Python实操)

●CNN提取流场出流速、压力、涡旋等特征 (Python实操)

●LSTM 模型在流场时间序列预测中的应用 (Python实操)

●U-Net结构应用于流场预测、重构、优化 (Python实操)

图表 8 有限差分方法和PINN方法对热场分布预测效果对比

图表 9 傅里叶神经网络算子

●图表 10  U-Net 卷积神经网络架构

●PINN实操 (Python):

■PINN预测常微分方程的响应

■2D热传导

■Burger方程

■圆柱绕流问题

■使用PINN模型求解稳态和非稳态流动问题

●iPINN实操案例:

■数据驱动的iPINN常微分方程逆问题求解

■数据驱动的iPINN偏微分方程逆向问题求解

●论文导读

nLino M, Fotiadis S, Bharath A A, et al. Current and emerging deep-learning methods for the simulation of fluid dynamics[J]. Proceedings of the Royal Society A, 2023, 479(2275): 20230058.

nPeng W, Qin S, Yang S, et al. Fourier neural operator for real-time simulation of 3D dynamic urban microclimate[J]. Building and Environment, 2024, 248: 111063.

●图表 11 2D圆柱绕流中重构流场和精确解对比

图表 12 Physics-Informed Machine Learning in Fluid Mechanics

深度学习流体力学老师

该位主讲老师来自于国内985高校实验室,毕业于国内顶尖的985工程院校和海外名校,和多个公司有深度学习流体力学横向项目上的合作。纵向方面,专业领域涵盖流体力学和多物理场流场耦合问题。老师拥有丰富的仿真经验和培训经验,熟练使用如COMSOL Multiphysics,Ansys Fluent,OpenFOAM 等建模软件。老师在该领域同样拥有多年研究经验,发表子刊、SCI论文多篇。擅长深度学习建模研究,流体力学中的深度学习方法,数据驱动的计算力学,有限元方法,有限差分法,有限体积法,CFD,并广泛应用于解决流体力学和多物理场仿真挑战中。在深度学习方面,研究重点包括长短记忆神经网络 (LSTM)、卷积神经网络 (CNN),以及物理信息神经网络 (Physics-informed neural networks)等。

课程三、深度学习固体力学





图表 1物理信息神经网络示意图 (Karniadakis et al., 2021)

固体力学主要研究固体材料在外界力场、或者其他物理场作用下发生的变形和稳定性等特性,其理论和方法广泛应用于工程、材料科学、机械设计、建筑结构等领域。机器学习 (Machine Learning),特别是深度学习 (Deep Learning) 技术,在固体力学领域展现出了巨大潜力。尽管偏微分方程 (Partial Differential Equations, PDEs) 数值离散化来模拟多物理问题方面取得了巨大进展,但是网格生复杂、方程包含对历史卷积以及非线性行为、含噪声数据无法整合到逆问题算法等困难依然突出。机器学习已经成为一种有前途的替代方案。深度神经网络已经可以解决部分低维度的简单问题,但是训练深度神经网络需要大数据。更进一步,物理信息神经网络可以通过添加物理定律约束获得的额外信息。为正向和逆向问题带来了的更多的可能性,提高了神经网络的准确性、带来了更快的训练和改进的泛化能力。通过引入人工智能方法,可探索固体力学领域在机器学习加持下的“老树开新花”。

课程目标

以问题为导向,提升解决问题的能力

培养批判性思维,提供从0到1的路径自我修正能力

1.培养从0到1建模能力:本课程注重学科基础能力和科学建模方案。在线弹性基础上进一步扩展到多物理场耦合问题,学习多场耦合问题的新提法以及控制方程的构建。课程通过是实操案例对实际现象进行简化处理,提取主要矛盾后建立控制方程,并通过无量纲化减少系统参数,精准揭示现象的演化规律和主导因素。课程注重培养问题从0到1的建模过程,对比经典解法和深度学习解法,探究深度学习在固体力学和多物理场仿真中的前景和局限。

2.培养学科交叉能力:本课程旨在培养既精通固体力学学基本提法与多物理场仿真基础方案,又熟练掌握机器学习算法与深度学习技术的复合型人才。学员将深入固体力学和多物理场仿真的时空动态规律,同时精通神经网络、优化算法等关键技术,能够创新性地设计并实施多物理场模型,优化预测精度与效率。

3.展现机器学习优势:通过对比分析,课程将深刻揭示机器学习在多物理场偏微分方程中相较于传统模型的显著优势,包括更强的解拟合能力、更高效的数据处理速度以及更广阔的适用场景。探讨其在应力应变估算、结构设计评估、参数反演策略优化等方面的最新研究进展与广阔应用前景。

4.实战案例分析:通过深入分析机器学习在固体力学和多物理场仿真稳态,瞬态等预测中的具体应用案例,如质量阻尼弹簧的位移预测,超弹性材料本构模型,相场法断裂深度学习算法。使学员直观感受其在实际问题解决中深度学习的强大威力与显著成效。这些案例将帮助学员构建理论与实践之间的桥梁,提升解决实际问题的能力。

5.追踪领域前沿动态:课程将引入国际上的最新研究成果与前沿动态,详细介绍机器学习在固体力学和多物理场仿真领域的最新发展态势,包括新型算法的研发、大规模数据集的应用、以及跨学科合作的新模式。旨在激发学员的创新灵感,鼓励他们探索新技术、新方法,推动固体力学和多物理场仿真往更加智能化、自动化、精准化的方向发展。

6.拓宽国际视野,促进跨学科合作:拓宽学员的国际视野,促进他们与国际同行的交流与合作。同时,强调跨学科整合的重要性,鼓励学员在固体力学、机器学习、数据科学等领域之间寻找交叉点,开展创新性研究,为解决全球固体力学建模的挑战贡献智慧与力量。

课程内容

Day 1: 固体力学复习

第一天:弹性力学复习

课程目标:

复习基础弹性力学,穿插学习大变形下的新定义

复习适定的弹性问题 (well-posed problem)

学习构建强弱形式并使用软件实现

Day 1-1

变形与变形梯度:仿射变形假设

应变张量:小变形假设,大变形 (Lagrangian应变)

应力张量:小变形下应力张量,柯西应力,PK1应力,PK2应力

实操案例:分析法计算应变


图表 2 连续体变形示意图

图表 3 不同应力定义中使用的等效关系


Day 1-2

雷诺输运方程

主守恒方程

质量守恒方程

动量守恒方程

角动量守恒方程

热力学第一定律

线弹性本构关系

超弹性本构关系

超弹性问题的强形式与弱形式

实操案例:线弹性问题的软件/代码实现

工具方法

Python基础以及查询方法

ChatGPT和Github Copilot辅助工具

Day 2: 高等弹性力学与多场耦合

课程目标:

学习高等弹性力学以及其他多物理场问题的提法

学习线性/非线性粘弹性问题

其他复杂物理场:相场法断裂,传热,扩散问题

图表 4 多物理场耦合问题

Day 2-1

热力学第二定律

熵与自由能

孤立系统、封闭系统、开系统热力学描述

自由能

统计力学简介

高分子链熵弹性模型

超弹性问题处理流程

热力耦合问题

回看控制方程:热力学视角下的平衡行为和动力学行为

回看控制方程:优化问题视角下的控制方程


Day 2-2

热-化学-力学耦合问题

断裂力学简介

相场法断裂问题

图表 5: 明锐边界与断裂相场法的扩散边界

图表 6 断裂相场法对称三点弯测试中的裂纹扩展

Day 3: 量纲分析和神经网络概述

课程目标:

学习量纲分析

了解神经网络,了解神经网络的类型

了解神经网络的结构和应用

Day 3-1

量纲分析介绍

量纲分析流程

量纲分析举例:单摆的周期,液滴的振动,液体表面张力测量

Day 3-2

感知机和神经网络

神经网络结构

神经网络的基本构建模块及其功能,如神经元、层、激活函数等核心组成部分。

正反向传播

参数迭代算法

深度学习技巧

权重初值,早停,正则化,Dropout

Day 4: PINNs的正逆问题

课程目标:

认识循环神经网络和物理信息神经网络

学习PINN解偏微分方程的方法原理

学习区分正问题、逆问题,并了解两种问题的处理方法

Day 4-1

递归神经网络(Recurrent Neural Networks, RNN)

长短时记忆网络(Long Short-Term Memory, LSTM)

实操

Day 4-2

PINN内容概述

介绍物理信息神经网络(Physics-Informed Neural Networks,PINN)基本概念,以及作为神经网络新兴方法分支的独特之处。

PINN方法原理

重点讲解PINN解偏微分方程的方法原理,讲解在解决具有复杂约束的工程问题时如何构建一个能够同时满足真实数据条件、初值条件、偏微分方程结构以及边界条件的多约束损失函数。

PINN的正问题和逆问题的构建

实操案例:PINN预测阻尼常微分方程的响应以及参数逆向算法

实操案例:1D, 2D热传导方程的PINNs方法求解

Day 5:论文复现

课程目标:

根据前期所学习的量纲分析和多物理场仿真问题,建立从0到1构建案例的操作流程

论文 (Flaschel et al., 2021)

Unsupervised discovery of interpretable hyperelastic constitutive laws.

图表 7具有物理意义的超弹性本构搜索的无监督算法示意图

论文 (Manav et al., 2024)

Phase-field modeling of fracture with physics-informed deep learning.

图表 8 对比神经网络和有限元分析获得的L形板的位移和相位场

论文 (Marino et al., 2023)

Automated identification of linear viscoelastic constitutive laws with EUCLID


图表 9 Comparison of true and identified response functions ordered as: shear loss, shear storage, bulk loss, bulk storage (row-wise from left to right) and with increasing number of clusters from 1 to 5 (column-wise from top to bottom) for the noise-free case.

课程总结展望

课程复习,根据案例提取深度学习处理固体力学问题的标准流程

机器学习与深度学习在固体力学领域的前景和局限

推荐学习资源 (在线课程、书籍、论文) 与进阶方向

参考文献

Flaschel, M., Kumar, S., & De Lorenzis, L. (2021). Unsupervised discovery of interpretable hyperelastic constitutive laws. Computer Methods in Applied Mechanics and Engineering, 381, 113852. https://doi.org/10.1016/j.cma.2021.113852

Karniadakis, G. E., Kevrekidis, I. G., Lu, L., Perdikaris, P., Wang, S., & Yang, L. (2021). Physics-informed machine learning. Nature Reviews Physics, 3(6), 422–440. https://doi.org/10.1038/s42254-021-00314-5

Manav, M., Molinaro, R., Mishra, S., & De Lorenzis, L. (2024). Phase-field modeling of fracture with physics-informed deep learning. Computer Methods in Applied Mechanics and Engineering, 429, 117104. https://doi.org/10.1016/j.cma.2024.117104

Marino, E., Flaschel, M., Kumar, S., & De Lorenzis, L. (2023). Automated identification of linear viscoelastic constitutive laws with EUCLID. MechanicsofMaterials,181,104643. https://doi.org/10.1016/j.mechmat.2023.104643

深度学习固体力学授课教师

主讲老师来自国内境外QS排名前20高校,本科来自国内顶尖985院校。擅长固体力学以及多物理场耦合问题,对深度学习有丰富经验,常用于的解决固体力学和多物理场仿真。近年来发表子刊、SCI论文多篇。研究方向包括:力电耦合,力磁耦合,力化学耦合问题。深度学习方面研究方向包括神经网络 (NN)、循环神经网络 (RNN),图像目标识别 (Image recognition),物理信息神经网络 (Physics-informed neural networks)等。

背景

在当今科学研究的前沿领域,机器学习(ML)与分子动力学(MD)的结合正逐渐成为探索复杂化学和物理现象的强大工具。机器学习,特别是深度学习,以其在处理大数据和识别模式方面的能力而闻名。而分子动力学模拟则提供了一种计算密集的方法,用于研究分子层面上的动态过程。将这两种技术结合起来,可以极大地推进我们对材料性质、分子行为的理解。

机器学习算法能够从大量的MD模拟数据中提取出关键特征和模式,从而预测分子行为和优化实验设计。反过来,MD模拟提供了精确的分子运动信息,这对于训练和验证ML模型至关重要。这种跨学科的融合不仅能够加速科学发现,还能够在材料科学等领域开辟新的研究路径。

课程四、深度学习分子动力学

课程内容

Day 1: 熟悉分子动力学基本常识

课程目标:

1. 掌握分子动力学基本原理

2. LAMMPS软件的安装

3. 掌握基本的计算流程

Day 1-1

1. 经典分子动力学模拟

l牛顿运动力学

2. 非平衡态分子动力学模拟

3. LAMMPS软件安装流程及势函数增加或删减 (Centos,Ubuntu版)

l安装相关程序包(gcc-g++,make, gcc-gfortran)

l安装fftw流程

l安装mpich流程

l配置环境变量

l安装Lammps(Makefile文件修改,安装势函数依赖包)

l测试Lmp_mpi文件

4. 可视化软件基本介绍(Ovito, VMD, MS, Vesta)

l可视化软件基本操作

l文件转换、data复制,切片等

l图片高质量输出



图1 分子动力学模拟和分析

Day 1-2

1. 输入数据库data文件

l数据文件基本格式(lmp,cif,xyz等)

l脚本撰写石墨烯data数据(Matlab编程)

lAtomsk编写金属、石墨烯等data数据

lMS直接获取数据data文件

lOvito修改data数据输出

l网页数据库、文献直接获取

2. 势函数文件

l势函数文件选取

l截断距离说明

l势函数获取手段

3. in文件命令的简单介绍

l驰豫命令讲解

lRestart文件输出说明

lNPT NVT NVE系综简单介绍

4. 实操石墨单轴拉伸

l建模

lIn文件详细解释(包括驰豫、拉伸)

l脚本提交撰写

l数据处理(Matlab编程)



图2 LAMMPS 命令



图3 Data数据库

所需软件:

MATLAB,Python,LAMMPS,以及可视化软件



图4 LAMMPS软件界面



图5 Vesta软件界面

Day 2: 分子动力学基本力学计算手段方法

课程目标:

1. 掌握二维材料、三维块体材料的基本力学拉伸方法

2. 掌握非平衡态热力学计算方法

3. 掌握材料疲劳计算方法

Day 2-1:

1. 实操石墨烯、h-BN、黒磷、多晶碳、MoS2等材料双轴拉伸模拟计算

l建模

lIn文件详细解释(包括驰豫、拉伸)

l脚本提交撰写

2. 对上述算例进行结果分析,数据处理,数据提取脚本撰写等

l数据处理(Matlab编程,应力应变、键长、拓扑结构提取等)

lPython Ovito接口简单介绍,后处理使用

lOvito可视化应力输出等操作



图6 石墨烯单轴拉伸模拟

Day 2-2:

3. 实操二维材料单、双轴疲劳计算模拟(静态和动态计算)

l静态疲劳

l动态疲劳

l单双轴、高低温疲劳计算设置

l数据处理与分析

4. 实操材料非平衡态热导计算

l计算二维材料热导率

l数据分析



图7 碳纳米管的疲劳失效

所需软件:

MATLAB,Python,LAMMPS,以及可视化软件

Day 3: 深度学习入门

课程目标:

1. 掌握深度学习Python环境搭建

2. 掌握神经网络基本原理

3. 掌握卷积神经网络CNN原理及搭建流程

Day 3-1:

1. 深度学习环境搭建

lAnaconda虚拟环境的安装,掌握conda create/activate/deactivate/install/info/env等命令

l安装CUDA Toolkit和cuDNN以加速深度学习模型的训练和推理

l深度学习框架Tensorflow,Keras的搭建、适配与使用

2. 了解有监督学习与无监督学习的各种类型

l常见监督学习算法介绍:最近邻、线性模型、朴素贝叶斯、决策树、随机森林、梯度提升机、支撑向量机、神经网络。

l常见的聚类算法:K均值聚类算法、层次聚类算法

l常见的维度减少方法:主成分分析、非负矩阵分解

l总结根据数据类型如何选择合适的分类器

3. 神经网络基本原理学习

l神经元(Neuron)的参数传递

l层(Layer):输入层、隐藏层、输出层

l连接权重(Weights)、权重初始化

l前向传播(Forward Propagation)

l常见的损失函数(Loss Function)衡量模型预测值与真实值之间差异

l反向传播(Backpropagation)关于网络参数的梯度来更新权重和偏置的方法

l梯度下降(Gradient Descent)优化算法

l学习率(Learning Rate)控制权重更新步长,复杂学习率的使用

l正则化(Regularization)用于防止过拟合,包括L1正则化、L2正则化、Dropout等

4. 实操基于Tensorflow搭建神经网络实现分类任务(MNIST数据集)

lMNIST数据集的导入

lSequential方法搭建

lClass方法搭建

Day 3-2:

1. 卷积神经网络CNN原理

l卷积层(Convolutional Layer)计算卷积核与输入数据的局部区域的点积,生成特征图(feature maps)

l滤波器(Filters/Kernels)提取特征

l池化层(Pooling Layer)降低特征图的空间尺寸,包括最大池化(Max Pooling)和平均池化(Average Pooling)

l全连接层(Fully Connected Layer)将学习到的特征组合起来进行分类或回归

lPadding(填充)控制输出特征图的大小,包括全零填充

2. 实操利用CNN训练CIFAR10数据集

lPackage导入、数据集导入与预处理

lCNN网络搭建

l学习率、优化器、损失函数的选择

l保存模型参数,支持断点续训

l训练过程acc、loss可视化

3. 实操各种经典CNN的搭建

lLeNet、AlexNet、VGGNet、InceptionNet网络结构及原理

l利用Tensorflow、keras框架搭建上述经典CNN网络



图8 卷积神经网络CNN框架

Day 4: 深度学习进阶

课程目标:

1. 掌握残差神经网络ResNet基本原理

2. 掌握迁移学习原理

3. 掌握用于时序预测的RNN,LSTM基本原理及搭建流程

Day 4-1:

1.残差神经网络ResNet基本原理

l各种残差块(Residual Block)的学习与构建,包含输入和输出之间的捷径(shortcut connection)或恒等连接(identity shortcut)

l使用恒等映射(Identity Mapping)缓解梯度消失问题

l维度匹配(Dimension Matching)确保输入和输出可以通过捷径连接相加

l残差学习解决退化问题(Degradation Problem)

l全局平均池化(Global Average Pooling)原理及减少参数数量

2. 实操利用ResNet训练CIFAR10数据集

3. 迁移学习(Transfer Learning)原理

l相似性假设概念与原理

l迁移策略的制定与可行性分析

l预训练模型方法(Pre-trained)原理讲解,选择预训练的源模型作为用于第二个任务的模型的学习起点

4. 实操基于ResNet的迁移学习

l预训练源模型的参数导入

lResNet 101深度网络的搭建

l自制数据集的少样本学习(Few-shot learning)

Day 4-2:

1.循环神经网络RNN原理

l循环核(Recurrent Kernel)原理,前向传播与反向传播的信息传递

l循环核按时间步(Time Step)展开

l循环计算层、循环连接

l梯度消失和梯度爆炸问题

2. 实操利用RNN实现字母预测

l序列数据处理,包括如时间序列、自然语言等

lOne hot编码处理数据

lEmbedding编码处理序列数据

l连续序列输入与单序列输入

3. 长短时记忆网络LSTM原理

l门控机制捕捉时间序列数据中的长期依赖关系

l遗忘门(Forget Gate)、输入门(Input Gate)、输出门(Output Gate)原理与参数共享

l梯度裁剪(Gradient Clipping)解决梯度爆炸问题

l长期记忆与短期记忆的实现与控制

l细胞态状态更新(Cell State Update)

l候选态归纳新信息

4. 实操利用LSTM实现股票预测

l参数导入、数据集划分

l序列数据预处理(Embedding、onehot)

l网络搭建



图9长短时记忆网络LSTM

Day 5: 机器学习势函数

课程目标:

1. 了解机器学习势函数

2. 掌握训练机器学习势函数NEP的基本流程及后处理

Day 5-1:

1. 机器学习势函数介绍

l传统势函数的回顾与不足

l机器学习势函数的优势

l机器学习势函数的原理

2. GPUMD,NEP介绍及安装

lNEP(neuroevolution potential)神经演化势函数介绍

l描述符类ACE(atomic cluster expansion)介绍,包括二体、三体等描述符

lNEP所用的前馈神经网络机器学习模型

l训练方法自然拟合策略(natural evolution stragegy)介绍

lGPUMD包的下载与安装

3. GPUMD,NEP的输入输出文件介绍

l训练NEP势函数的输入文件nep.in格式与参数详解

l数据文件train.xyz、test.xyz的预处理(包含其中的结构能量、盒子矩阵、结构位力、原子坐标与受力)

l势函数文件nep.txt介绍与使用



图10 NEP机器学习势函数

Day 5-2

1. 实操利用公开数据集进行NEP机器学习势函数拟合及后处理

lNEP势函数拟合命令与过程

l检查训练结果

lLoss.out、energy_train.out、force_train.out训练结果可视化

2. 实操利用训练后的NEP机器学习势函数进行MD计算

l碳体系的热输运计算

l硅体系的热输运计算等

图11 NEP机器学习势函数训练结果

授课讲师

主讲老师本科、硕士、博士阶段就读于国内顶尖985高校。擅长分子动力学模拟力学、传热等问题,熟悉各种常用深度学习方法,并能结合机器学习与分子动力学模拟结合实现材料的优化设计、机器学习势函数的拟合等。近年来发表SCI、领域TOP期刊论文多篇。研究方向包括:微纳米力学、结合机器学习的材料逆向设计。深度学习方面研究方向包括机器学习势函数拟合、长短记忆网络LSTM、残差网络ResNet以及迁移学习、基于CNN的优化设计等。

课程五、深度学习第一性原理


课程目标

本课程旨在通过系统的讲解和实践,帮助学员掌握深度学习在第一性原理计算中的应用,特别是在神经网络势函数、分子动力学模拟、和高阶物理模型构建等方面的具体操作。课程将从基础的第一性原理计算入手,介绍密度泛函理论和常用的计算软件,如VASP和GPAW,并讲解如何利用Python进行材料建模与数据处理。随后,课程将深入到深度学习框架的应用,涵盖深度学习的基础知识、神经网络势函数的构建方法,以及如何结合深度学习进行高效的分子动力学模拟和材料设计。在实践部分,学员将有机会通过安装和使用DeePMD、SchNetPack等开源工具,完成相关的建模和计算任务。最终,课程还将探讨如何结合最新的神经网络框架(如SchNet、PaiNN、MACE等)处理更大规模和复杂的材料体系,以推动第一性原理计算的应用进展。

表培训内容

第一天:第一性原理基础与Python编程

上午:第一性原理计算原理及其python基础

l课程引言

¡深度学习在第一性原理计算中的应用与优势

¡从传统的经验力场方法和第一性原理方法到机器学习力场

¡课程内容安排

¡第一性原理计算介绍第一性原理计算的发展历程——从薛定谔方程到密度泛函理论

¡密度泛函理论(DFT——从波函数到电子密度

¡常用的原子建模环境软件——ASEpymatgen

¡常用的第一性原理计算软件——VASPGPAW

l实操内容

¡第一性原理理论概述与建模方法

¡Linux系统常用命令与超算服务器使用

¡Anaconda+PyCharm+Vs Code开发环境搭建

¡Ubuntu+git+Xshell命令行工具使用

¡运行最快的开源第一性原理材料计算和模拟软件——CP2K

¡Python编程语言基础与集成开发环境(IDE)介绍

¡数据类型、函数、类和对象、模块

¡使用Vs CodePyCharm进行开发

下午:环境搭建与基础编程

lPython环境管理与Anaconda使用

¡使用Conda命令创建环境,安装Python

¡环境管理与回溯

¡Pytorch安装与GPU训练模型

¡案例尝鲜:第一性原理计算建模(基于QE)案例

l原子建模环境ASEGPAW的使用

¡使用ASE进行体系建模,生成cif文件

¡ASEGPAW结合进行第一性原理计算

¡GPAW软件的参数设置和结果收敛性检查

第二天:深度学习基础与神经网络势函数

上午:深度学习基础

¡深度学习的发展历程与优势人工神经网络与万能近似定理

¡深度学习框架、经典神经网络原理导读

¡ResNet为例入门深度神经网络

¡Pytorch框架介绍与常用深度学习模型

¡学习资源推荐与基础算法理解

l实操内容

¡深度学习项目实践——ResNet残差网络图像分类算法

¡图像数据集准备与加载

¡训练ResNet模型

¡模型测试与评估

¡Pytorch使用与GPU训练

下午:模拟密度泛函理论、神经网络势函数与DeePMD

¡神经网络势函数概述从高斯核回归到神经网络势函数

¡神经网络势函数的基本假设——局域性假设与对称性要求

¡BPNN描述符与DP深度神经网络势函数

¡神经网络势函数在分子动力学中的应用

¡模拟密度泛函理论的深度学习框架Ramprasad Group

l实操内容

¡DeePMD使用

¡DeePMD离线安装与测试

¡DeePMD模型的训练与验证

¡使用DeePMD进行高效的分子动力学模拟

¡使用wandb可视化训练过程

第三天:深度学习在第一性原理计算中的应用(神经网络势函数)

上午:图神经网络与MPNN

l图神经网络和MPNN消息传递神经网络

¡具有不变性的消息传递神经网络

¡晶体图卷积神经网络(CGCNN

¡消息传递神经网络的一般框架与组成

¡SchNetDimeNet++的特点与优势

¡引入角度信息的DimeNet++模型

¡图卷积与图像卷积的区别

l实操内容

¡SchNetPack的安装与使用

¡QM9数据集准备与训练

¡使用SchNet训练并评估模型

¡SchNet进行分子动力学模拟

¡计算原子对径向分布函数等性质

下午:CP2K框架深入理解图神经网络与消息传递

lCP2K的安装与基础知识

lCP2K中的关键性数值算法

lCP2K加速计算的方法(LRIGPW)

l基于DeePMD框架下使用dpdataCP2K生成的第一性原理数据

lSchNetDimeNet++原理剖析

lSchNetPack与深度学习势函数

¡深入理解SchNet的消息传递过程

¡SchNet与传统势函数模型的对比

第四天:深度学习与第一性原理计算中的高阶模型

上午:等变性与不变性模型

¡等变性与不变性的消息传递神经网络等变的概念与群论基础

¡等变性与不变性的区别

¡等变消息传递神经网络与不变等变消息传递神经网络的对比

l实操内容

¡PaiNN模型安装与使用

¡PaiNN模型的代码详解

¡PaiNN模型训练与评估

¡SchNetPaiNN的精度对比

¡体验不变性与等变性的区别

下午:NequIPDeePTB与高精度模型

lNequIP模型与顶刊论文复现

¡NequIP模型的安装与超参数设置

¡NequIP与其他模型的对比与分析

¡复现Nature Communications案例DeePTB论文结果

第五天:深度学习在第一性原理中的进阶应用

上午:神经网络势函数与长程相互作用

¡加入长程相互作用的神经网络势函数使用神经网络预测离子电荷

¡基于离子电荷计算长程相互作用

l实操内容

¡DeepH方法与深度学习密度泛函微扰理论(DFPT

¡介绍DFPT方法

¡使用深度学习对DFT哈密顿量建模

¡DeepH方法在分子动力学中的应用

下午:通用原子体系大模型——MACE框架

¡卡尔原子簇展开(CACE)方法

¡MACE框架的应用笛卡尔原子簇展开

¡MACEMPNNCACE的结合

l实操内容

¡MACE模型的使用与论文复现

¡使用MACE框架进行原子体系建模

¡MACE模型的训练与测试

¡复现相关论文结果

课程总结与互动讨论

l总结课程内容,回答学员疑问

l深度学习与第一性原理计算的未来发展趋势

l课程反馈与后续学习资源推荐

深度学习第一性原理老师

本课程的主讲老师来自国内985重点高校,拥有两年海外留学经历,并专注于计算物理与计算材料的研究。老师的学术背景深厚,长期从事第一性原理计算与深度学习方法的结合研究,涉及的研究领域包括量子力学、材料科学、分子动力学模拟等。作为学术团队的一员,老师参与了多项国家自然科学基金面上项目,在国际学术界具有广泛的影响力。

老师的研究方向主要集中在深度学习方法应用于第一性原理计算的领域,尤其是在神经网络势函数(NNF)和分子动力学模拟(MD)等领域取得了突破性的成果。凭借扎实的理论功底和丰富的实践经验,老师在如何高效地结合深度学习与第一性原理计算方面做出了重要贡献,研究成果被广泛应用于材料设计、能源催化、电子结构计算等多个领域。老师在国际顶级期刊上发表多篇高水平论文,这些论文涉及计算材料、量子力学、机器学习与材料科学的交叉领域,得到了国内外学术界的广泛认可和引用。除此之外,老师还参与了多项学术交流活动,并在多个国际学术会议上做过专题报告,积累了丰富的学术交流和研究合作经验。

在教学方面,老师秉承理论与实践并重的教学理念,注重将深奥的理论知识与实际应用紧密结合。在本次培训课程中,老师将通过系统的讲解和丰富的实操案例,帮助学员深入理解深度学习方法如何在第一性原理计算中实现高效应用。从基础的量子力学原理、密度泛函理论(DFT)到神经网络势函数的应用,再到如何用机器学习方法加速材料模拟,课程内容涉及面广,理论深度与实践操作并行,旨在让学员能够全面掌握并运用相关技术。除了学术与教学的成就,老师在编程与软件工具方面也有着丰富的经验,熟练掌握VASPASEGPAW等第一性原理计算软件,能够灵活运用PythonPytorch等编程工具进行大规模计算与数据分析。老师的多项研究成果和编程经验为学员提供了一个独特的学习平台,使得课程内容更加贴近实际需求,帮助学员快速掌握从理论到实践的核心技术。

授课时间

深度学习岩土工程课程时间:

2025.1.04-----2025.1.05全天授课(上午9:00-11:30下午13:30-17:00)

2025.1.09-----2025.1.10晚上授课(晚上19:00-22:00)

2025.1.11-----2025.1.12全天授课(上午9:00-11:30下午13:30-17:00)


腾讯会议 线上授课(共五天授课时间 提供全程回放视频)


深度学习流体力学课程时间:

2024.12.28-----2024.12.29  全天授课(上午9:00-11:30下午13:30-17:00)

2025.1.02-----2025.1.03晚上授课(晚上19:00-22:00)

2025.1.04-----2025.1.05全天授课(上午9:00-11:30下午13:30-17:00)

腾讯会议 线上授课(共五天授课时间 提供全程回放视频)


深度学习固体力学课程时间:

2025.1.11-----2025.1.12全天授课(上午9:00-11:30下午13:30-17:00)

2025.1.16-----2025.1.17晚上授课(晚上19:00-22:00)

2025.1.18-----2025.1.19全天授课(上午9:00-11:30下午13:30-17:00)

腾讯会议 线上授课(共五天授课时间 提供全程回放视频)


机器学习分子动力学:

2025.1.11----2025.1.129:00-11:3013:30-17:00

2025.1.1319:00-22:00

2025.1.1619:00-22:00

2025.1.18----2025.1.199:00-11:3013:30-17:00

线


深度学习第一性原理
2025.1.04-----2025.1.05全天授课(上午9:00-11:30下午13:30-17:00)
2025.1.09-----2025.1.10晚上授课(晚上19:00-22:00)
2025.1.11-----2025.1.12全天授课(上午9:00-11:30下午13:30-17:00)

线


课程费用

深度学习流体力学/深度学习固体力学/深度学习岩土工程/深度学习第一性原理

费用:每人每班¥4980元 (含报名费、培训费、资料费)

优惠政策

优惠一: 两门同报9080元

优惠二:三门同报12800元

优惠三:四门同报15800元

优惠四:提前报名缴费学员+转发到朋友圈或者到学术交流群可享受每人300元优惠(仅限15名)

报名费用可开具正规报销发票及提供相关缴费证明、邀请函,可提前开具报销发票、文件用于报销

课程培训福利

课后学习完毕提供全程录像视频回放,针对与培训课程内容 进行长期答疑,微信解疑群永不解散,参加本次课程的学员可免费再参加一次本单位后期组织的相同的 专题培训班(任意一期都可以)

                              培训答疑与互动

在培训中进行答疑和问题互动,以帮助学员深入理解课程内容和解决实际问题。

学员可以提出疑问,讲师将提供详细解答,特别是针对技术难点和复杂算法。

通过小组讨论和案例分享,学员将有机会交流经验,获得实时反馈,并进行实践操作演示。

展示学员的学习成果,并提供进一步的提升建议和资源支持,为学员在未来的学习和工作中提供帮助和指导。

课程授课方式

授课方式:通过腾讯会议线上直播,从零基础开始讲解,电子PPT和教程+预习视频提前发送给学员,所有培训使用软件都会发送给学员,附赠安装教程和指导安装,培训采取开麦共享屏幕和微信群解疑,学员和老师交流、学员与学员交流,培训完毕后老师针对与培训内容长期解疑,培训群不解散,往期培训学员对于培训质量和授课方式一致评价极高

课程咨询报名联系方式

联系人:陈老师

          报名咨询电话|18339237911(同微信)


岩土学术CJGE
介绍和传播《岩土工程学报》
 最新文章