课程大纲
大模型基本概念以及应用场景
应用场景
缺点与局限
未来展望
NLP大模型基础、前沿与学习路径
NLP大模型的基石
NLP大模型的前沿探索
学习路径和建议
基于模型量化的大模型压缩的进展
压缩技术中,为什么量化要优于剪枝、蒸馏?
如何搜索裁剪阈值用于裁剪outlier?
包含有异常值outlier的特征如何量化?
基于模型剪枝的大模型高效计算和应用
模型剪枝的技术背景
模型剪枝具体方法
模型剪枝前沿方法
语言模型剪枝实例
多模态大模型的过去、现在和未来
从特定任务到通用模型
常用结构和训练方式
不同的优化方向
不足及研究方向选择
大语言模型的RLHF
RLHF的优点和挑战
RLHF如何改善大模型性能
RLHF的实际应用案例
RLHF在大模型的未来趋
大模型的高效微调
常用的高效微调方法介绍
针对领域数据集以高效微调方法创造大模型
未来挑战与研究方向
大模型医疗
医疗领域的数据特点、挑战和机遇
针对ChatGLM大模型,介绍ChatGLM模型微调代码实践以及模型微调
LLAMA2中文大模型
理论介绍
代码实践
大模型前沿论文带读训练营
LLaMA训练营
LLaMA训练营——精读
LLaMA训练营——代码讲解
GLM-130B训练营——论文泛读
GLM-130B训练营——论文精读
GLM-130B训练营——代码讲解
Alpaca训练营——论文泛读
Alpaca训练营——论文精读
Alpaca训练营——代码讲解
掌握大模型领域前沿,跑通三套企业级项目代码
开发基于大模型的聊天机器人
实战基于大模型的对话系统(实战一)
大模型模型原理及综述
大语言模型(LLM)原理及综述
精读大模型-3论文、Instruct论文
精读谷歌PaLM论文、脸书LLaMA论文
实战基于大模型的对话系统(实战二)
实战微调LLaMA模型
课程速览之基础知识
课程速览之代码精读