本文是锋哥的第190篇原创文章
每周一篇 AI 的观点认知总结，希望在 AI 认知层面有进一步的了解和独立思考。本周分享下Andrej Karpathy 在 No Priors 播客中的分享。Andrej Karpathy 是一位知名的 AI 研究者，他的贡献和经历在 AI 领域有着深远的影响。1、教育背景：Karpathy 在加拿大多伦多大学获得了计算机科学和物理的本科学位，并在不列颠哥伦比亚大学取得了硕士学位，之后在斯坦福大学完成了博士学位，师从李飞飞教授，专注于循环神经网络的研究及其在计算机视觉和自然语言处理中的应用。- 他曾经是 OpenAI 的创始成员之一，在深度学习和强化学习领域有所建树。
- 2017 年加入特斯拉，担任 AI 和自动驾驶部门的高级总监，负责领导 Autopilot 的计算机视觉团队。
- 在特斯拉工作期间，Karpathy 致力于提升 Autopilot 的性能，并推动了完全自动驾驶技术的发展。
- 2023 年 2 月，Karpathy 宣布再次加入 OpenAI，并在同年 7 月创办了名为 Eureka Labs 的人工智能+教育公司，专注于利用 AI 技术改变教育方式。
3、对教育的贡献：Karpathy 对教育充满热情，他在斯坦福大学设计并担任了深度学习课程 CS231n 的主要讲师。此外，他还在个人 YouTube 频道上发布了许多关于 AI 的教育视频，为 AI 教育做出了显著贡献。4、创业项目：Karpathy 创办的 Eureka Labs 旨在通过 AI 技术提供高质量的个性化教育体验。他计划通过这个平台，让全球的学习者都能接受到优质的教育资源，特别是通过 AI 助教来辅助学习，解决优秀教师资源稀缺的问题。5、个人见解：在 AGI（人工通用智能）到来之前，学习数学、物理和计算机科学对于培养逻辑推理能力非常有帮助，并且这些知识在 AGI 时代依然有其价值。Andrej Karpathy 在 No Priors 播客中分享了他对 AI 现状与未来发展，以及自动驾驶、人形机器人等行业的预判。以下是他的核心观点：- 人形机器人的初期应用可能不是家庭服务，而是在工厂等商业环境中进行物料搬运等任务。Karpathy 认为企业内部使用可能是人形机器人的第一批客户，之后才会逐步向 B2B 和 B2C 应用发展。
- 自动驾驶技术已经触及到了一点 AGI（人工通用智能），现在一些自动驾驶已经可以做到带你在某个城市里随意地逛了，但还没有实现全球化。
- 他认为特斯拉本质上是一家大规模的机器人公司，从汽车到人形机器人的转变其实没那么难，早期版本的 Optimus 机器人甚至以为自己是辆车。
- 目前 AI 发展的瓶颈已经不再是参数和神经网络，而是数据集的规模和质量，即「数据瓶颈」。未来的发展将更多依赖合成数据的生成，而合成数据的多样性和“熵”尤为重要（熵是一个来自信息论的概念，用于量化数据中包含的信息量和不确定性：高熵的合成数据集包含更多不同的、不可预测的事件或特征组合，有助于生成更丰富、更真实的数据集，使模型能够学习到更多的特征并提高其泛化能力）。
- Karpathy 认为，模型可以小到让你意想不到。现在的模型浪费了很多容量在记住一些不重要的东西上，这是因为我们用的数据集没有整理得很好。未来的模型可能会更小，更专注于核心的认知功能。
3、AI教育： AI 的目标不仅是自动化，更是赋予人们更多能力。他正在尝试建立一个类似的课程，希望它能像你想学习 AI 那样提供帮助，并计划推出一门关于 AI 的课程。4、AI与人脑的关系：在很多方面 Transformer 比人脑更高效，尤其是在记忆序列方面。他认为人类大脑有很多限制，而 Transformers 的工作记忆要大得多，并且这种差距会持续扩大。5、未来的模型和AI系统：未来的模型可能会更小，更专注于核心的认知功能。Karpathy 认为，未来的大模型的工作模式会像一个“大模型公司”，你会有各种不同能力、专注于独特领域的模型生态。以上观点基本解答了：AI 为何离我们这么远的核心原因还是在于成本及数据瓶颈，尤其是对于 TO C 的成本回报率偏低，更多地是在商用环节，但模型专业化会降低成本，即 AI 多样性已经成为普遍共识。而且未来最大的应用会在教育层面发力，即辅助人类学习层面，所以 AI 的目标不是自动化，而是赋予人类更多的能力，这点可能90% 的人都会理解错误，即帮助人类获得更多的能力，自动化只是顺带的 AI 能力之一。可以想象未来，AI 将成为每个人类的标配，无论是虚拟的智脑，还是人形机器人的管家角色已经逐步成为集体共识。... ＥＮＤ ...
看完Perplexity AI CEO的万字采访，才发现人天生不擅长提问，才是通用大模型最大的阻碍，垂直大模型场景化是必然
中国电商之父邵亦波：7个核心见解揭示AI在心灵成长中的革命性作用
“技术先知” “互联网教父” KK凯文·凯利2024年中国演讲：AI时代的未来洞察
KK凯文·凯利最新演讲：AI时代的3大趋势预测及年轻人的5个建议
Kimi创始人杨植麟最新分享，Open AI o1引发范式革命的原因剖析及3个趋势预判
分享是动力，点赞是态度，在看是认可！
如果想第一时间收到推送，可以给我个星标⭐️
![]()
