Andrej Karpathy，这个名字在 AI 领域可谓如雷贯耳。他曾是 OpenAI 的创始成员，也曾领导特斯拉的 Autopilot 项目，为 AI 领域的发展做出了重要贡献。如今，Karpathy 将目光转向了 AI 教育，创立了 Eureka Labs，致力于开发 AI 驱动的教育平台。近日，他做客播客节目 "No Priors"，与主持人畅谈他对 AI 现状与未来的思考，内容涵盖自动驾驶、人形机器人、AI 研究的瓶颈、AI 与人类认知的关系，以及他正在构建的 AI 教育平台 Eureka Labs 等多个话题。本文将基于此次访谈，深入探讨 Karpathy 的洞见，带你一窥 AI 发展的最前沿。
自动驾驶汽车的演进
自动驾驶汽车，曾经是科幻电影中的场景，如今已逐渐走入现实。以 Waymo 为代表的公司已在旧金山等城市推出了自动驾驶出租车服务，让乘客可以真切体验到无人驾驶带来的便利。然而，正如 Karpathy 所指出的，从最初的技术演示到最终的产品化落地，中间存在着巨大的鸿沟。Waymo 花了整整 10 年的时间，才将其自动驾驶技术从一个简单的 demo 发展成可以在城市规模运营的商业化产品。
特斯拉在自动驾驶领域采取了一种独特的策略，Karpathy 称之为“训练时高成本，运行时低成本”。特斯拉在训练阶段利用大量的、配备了昂贵传感器（如激光雷达）的车辆收集数据，但在实际运行的车辆上则只使用摄像头。这种策略的精妙之处在于，它利用了深度学习模型强大的泛化能力，通过在训练阶段提供丰富的感知信息，使得模型在运行阶段即使只依靠摄像头，也能实现高水平的自动驾驶功能。
Karpathy 坚信，特斯拉的端到端深度学习方法最终将会取得成功，未来的自动驾驶汽车将完全由神经网络控制，无需依赖复杂的规则和人工干预。
特斯拉与 Waymo 的自动驾驶方法之争
特斯拉与 Waymo，是自动驾驶领域的两大巨头，但它们的技术路线却截然不同。特斯拉更偏向于软件解决方案，相信可以通过不断改进算法和模型来提升自动驾驶的性能；而 Waymo 则更依赖于硬件，其自动驾驶汽车配备了大量的激光雷达和其他传感器，以获取更精确的环境信息。
Karpathy 认为，特斯拉的技术路线更具潜力，因为软件问题比硬件问题更容易解决。而且，特斯拉拥有大量的车辆部署和数据收集能力，这将加速其自动驾驶技术的迭代和改进。他预测，在未来的 10 年里，特斯拉将在自动驾驶领域占据主导地位。
用汽车模型训练 Optimus
特斯拉不仅在自动驾驶领域雄心勃勃，还进军了人形机器人领域。Optimus，是特斯拉正在开发的人形机器人，它的名字来源于电影《变形金刚》。Karpathy 透露，Optimus 的开发受益于特斯拉在自动驾驶领域的积累和经验，尤其是在感知、导航和控制方面。
有趣的是，Optimus 使用了与特斯拉汽车相同的计算机和摄像头，甚至在早期版本中还以为自己是一辆汽车。这体现了特斯拉在机器人开发上的高效和务实。Karpathy 相信，Optimus 将在未来成为人类的好帮手，完成各种危险、重复或繁琐的工作。
人形机器人形态背后的原因
为什么特斯拉要开发人形机器人，而不是其他形态的机器人呢？Karpathy 认为，人形机器人有其独特的优势。
首先，世界是为人类设计的。我们的房屋、街道、工具等等，都是按照人类的形态和尺寸来设计的。人形机器人可以更容易地适应人类环境，使用人类的工具，完成各种人类才能完成的任务。
其次，人类可以轻松地对人形机器人进行远程操作。我们可以通过模仿人类的动作，来教机器人如何完成各种任务。这对于机器人学习和数据收集来说非常重要。
最后，人形机器人可以作为通用平台，通过迁移学习来完成多种任务。例如，一个学会了走路的机器人，可以更容易地学会跑步、跳跃等其他动作。这将提高机器人的效率，并降低开发成本。
机器人领域现存的挑战
尽管人形机器人具有诸多优势，但其发展也面临着不少挑战。
首先，人形机器人的硬件成本较高，尤其是在早期阶段。这限制了其大规模应用和普及。
其次，人形机器人在运动控制、物体识别和操作等方面仍存在技术瓶颈。例如，让机器人像人类一样灵活地行走和操作物体，仍然是一个非常困难的问题。
最后，人形机器人的安全性也是一个重要问题。我们需要确保机器人在与人类互动时不会造成伤害。
AI 进展的瓶颈
近年来，人工智能取得了突飞猛进的发展，尤其是在深度学习领域。Transformer 模型的出现，更是被认为是 AI 领域的重大突破。Transformer 模型具有强大的泛化能力和可扩展性，使得深度学习模型的规模和性能都得到了显著提升。
然而，Karpathy 指出，目前 AI 的发展仍然受限于数据瓶颈。我们用来训练 AI 模型的数据，大多来自互联网。但互联网数据并非理想的训练数据，因为它包含大量与认知无关的信息，例如广告、垃圾邮件等等。
为了解决数据瓶颈，我们需要开发新的方法来生成高质量的合成数据。合成数据是指由计算机程序生成的数据，而不是来自现实世界的数据。例如，我们可以利用 AI 模型来生成各种场景和物体的图像，用来训练计算机视觉模型。
Karpathy 认为，合成数据是 AI 未来发展的重要方向，我们需要克服数据坍塌等问题，才能生成真正高质量的合成数据，支持更大规模和更强大的 AI 模型的训练。
人类认知与 AI 模型的相似之处
研究 AI 模型，不仅可以帮助我们开发更强大的 AI 系统，还可以帮助我们更好地理解人类认知的机制。Karpathy 认为，AI 模型与人脑之间存在着一些有趣的相似之处。
例如，AI 模型在某些方面（如记忆力和学习效率）可能优于人脑。一个经过训练的 AI 模型，可以记住海量的信息，并且可以快速地学习新的知识。
另一方面，人脑在适应性和创造性方面仍然具有优势。人类可以根据不同的环境和情境，灵活地调整自己的行为和思维方式。人类还可以创造出新的想法和概念，这是 AI 模型目前还无法做到的。
融合人类认知与 AI 能力
AI 系统可以作为人类的“外皮层”，增强人类的认知能力。例如，我们可以利用 AI 模型来帮助我们记忆信息、翻译语言、生成文本等等。
人机融合的未来形态尚不明确，但可能会涉及脑机接口等技术。例如，Neuralink 公司正在开发一种可以将人脑与计算机连接起来的设备。
然而，Karpathy 也提醒我们，人们可能会对 AI 产生依赖，导致某些基本认知能力的退化。例如，如果我们过度依赖地图导航，可能会丧失方向感。
构建高性能小型模型
Karpathy 认为，目前的 AI 模型过于庞大，浪费了很多容量来记忆无用的信息。例如，一个语言模型可能会记住大量的网络流行语，但这对于其理解语言的能力并没有太大帮助。
他相信，可以通过模型蒸馏等技术，将 AI 模型的规模缩小到 10 亿参数甚至更小，同时保持高性能。模型蒸馏是指利用一个大型的、训练好的 AI 模型，来训练一个更小的 AI 模型。
小型模型可以在边缘设备上运行，例如手机、智能手表等等。这将降低 AI 的使用成本，并提高其可访问性，让更多人能够使用和受益于 AI 技术。
Andrej 目前在 AI 教育领域的工作
Karpathy 离开特斯拉后，创立了 Eureka Labs，一家致力于开发 AI 驱动的教育平台的公司。他正在构建一门 AI 课程，目标是让全球 80 亿人都能够学习 AI。
该课程将利用 AI 技术实现个性化学习、跨语言教学和规模化扩展。例如，AI 可以根据每个学生的学习情况，提供个性化的学习内容和路径。AI 还可以将课程内容翻译成不同的语言，让更多人能够学习 AI。
AI 驱动的教育可以打破传统教育体系的限制，使知识能够更快速、更广泛地传播。例如，我们可以利用 AI 模型来创建在线课程，让任何人在任何时间、任何地点都可以学习。
AI 可以根据每个人的学习情况提供个性化的学习内容和路径，从而帮助更多人获得成功。这将导致知识网络的重塑和社会地位的重新分配，使更多人能够基于他们的能力和知识，而不是他们的背景或社会地位，获得成功的机会。
Eureka Labs 是 Karpathy 创立的 AI 教育公司。其目标是利用 AI 技术，为每个人提供个性化、高效和便捷的学习体验。Eureka Labs 的第一个项目是一门 AI 课程，目标是让全球 80 亿人都能够学习 AI。
年轻人应该学习什么来为未来做好准备
Karpathy 建议年轻人学习数学、物理和计算机科学等基础学科，因为这些学科可以培养思维能力和解决问题的能力。这些能力在未来将变得越来越重要，因为 AI 将会取代很多重复性的、机械性的工作。
他还鼓励年轻人保持好奇心，不断学习新知识，以适应快速变化的未来世界。AI 技术正在快速发展，新的技术和应用层出不穷。只有不断学习，才能跟上时代的步伐。
相关链接
• Eureka Labs 官网: https://www.eurekalabs.ai
