大模型入门笔记整理记录

文摘   2024-10-10 07:57   上海  
点击下方卡片,关注“自动驾驶之星
这里有一群奋斗在自动驾驶量产第一线的小伙伴等你加入

整理了一些近期关注的大模型方面的笔记,更详细的见生成式AI与具身智能知识星球

Transformer 对比CNN 和LSTM,以及常见的大模型一些优质的改进!

位置编码的方式:

大模型的思维链技术:

大模型的思维链技术(Chain of Thought, CoT)是一种利用大型语言模型进行问题解答的技术。这种方法的核心思想是模仿人类解决问题的思维过程,即通过一系列逻辑推理步骤来得出答案,而不是直接给出结论。CoT技术可以帮助模型更好地理解和处理复杂问题,提高其解决问题的能力和准确性。下面是CoT技术的一些关键特点和步骤:

  1. 问题理解:首先,模型需要理解问题的具体内容和要求。

  2. 关键信息提取:从问题中提取关键信息,这些信息对于解决问题至关重要。

  3. 逻辑推理:根据已有的信息和知识,进行逻辑推理,就像人类在思考问题时一样。

  4. 中间步骤:将推理过程分解成一系列中间步骤,每个步骤都是对问题的部分解答。

  5. 逐步解答:逐步展示每个中间步骤的解答过程,直到得出最终答案。

  6. 验证和调整:在推理过程中,对每个步骤进行验证和调整,确保推理的正确性。

  7. 最终答案:通过一系列逻辑推理步骤,最终得出问题的答案。

CoT技术的优势在于:

  • 提高透明度:通过展示推理过程,用户可以更好地理解模型是如何得出答案的。

  • 增强可解释性:模型的推理过程更加清晰,有助于提高模型的可解释性。

  • 提升准确性:通过逐步推理,模型可以更准确地解决问题,减少错误。

  • 适用性广泛:CoT技术可以应用于各种复杂问题,包括数学问题、逻辑推理、科学问题等。

CoT技术的一个简单示例:

更多详细内容见生成式AI与具身智能知识星球。

自动驾驶之星和生成式AI与具身智能知识星球,新人优惠券来袭,结识一群志同道合的小伙伴一起成长。

下一个风口会不会是生成式AI 与具身智能的时代,我们特意创建了生成式AI与具身智能交流社区,关于大模型,机器人的相关业界动态,学术方向,技术解读等等都会在社区与大家交流,欢迎感兴趣的同学加入我们(备注具身智能)!   

自动驾驶之星知识星球主打自动驾驶量产全技术栈学习,并包括: 学习板块,求职面试,有问必答,论文速递,行业动态五大板块!星球内部包括端到端大模型,VLM大模型,BEV 障碍物/车道线/Occ 等的学习资料!

生成式AI与具身智能知识星球,我们相信生成式AI 与具身智能会碰撞出出乎我们意料的内容,本知识形象并包括: 学习板块,求职面试,有问必答,论文速递,行业动态五大板块!星球内部包括生成式AI大模型,具身智能,业界资料整理等的学习资料!

自动驾驶之星是面向自动驾驶&智能座舱量产向相关的交流社区,欢迎大家添加小助手加入我们的交流群里,这里有一批奋斗在量产第一线的小伙伴等你的加入!

👇点个“赞”和“在看”吧

自动驾驶之星
自动驾驶之星,是一个以自动驾驶\x26amp;智能座舱量产交流为主的社区。这里有自动驾驶\x26amp;智能座舱量产第一线的前沿动态,有一群奋斗在自动驾驶\x26amp;智能座舱量产第一线的小伙伴在分享他们的量产经历。期待你的加入!希望每个人在这个浪潮中都能成为自动驾驶之星!
 最新文章