Nature | 为什么学术界与工业界必须联手发展AI？
学术
2024-12-09 16:36
江苏
![]()
近年来，人工智能（Artificial Intelligence, AI）的发展以惊人的速度推进，尤其是在大型语言模型（Large Language Models, LLM）领域，涌现出诸如ChatGPT、Google Gemini和Claude等先进技术。这些模型展现了广泛的能力，从生成计算机代码到总结学术文章，再到解答复杂数学问题，几乎渗透到我们生活的方方面面。然而，这种表面的强大也引发了一个更加深远的问题：人工智能能否最终实现通用人工智能（Artificial General Intelligence, AGI）？所谓通用人工智能，指的是一种能够在人类水平上进行推理、规划、概括并具备自主能力的AI系统。这一问题不再只是科幻小说的虚构场景，而是当下政策制定者、研究人员和技术开发者共同关注的核心议题。某些技术公司甚至声称，超级智能（Superintelligence）的实现可能仅在数千天内。然而，学术界对此持审慎态度，认为目前的LLM虽然在某些方面接近人类的认知能力，但仍然存在根本性限制，例如缺乏构建一致“世界模型”（World Models）的能力。这种模型是AI在未知环境中推理和规划的关键，而其实现可能需要借助神经科学和认知科学的突破。在这一背景下，如何平衡工业界的快速进步与学术界的科学验证，成为AGI发展道路上的关键。当前，技术公司对AGI的研究高度封闭，这导致外界对其真正能力缺乏透明认知。同时，企业的高额投资也远超公共资金支持，这进一步凸显了学术界与工业界在资源和目标上的不对等性。然而，唯有两者协作，汇聚人类各领域的知识与智慧，才能确保人工智能技术的稳步发展，并最大限度地减少潜在风险。（12月6日 Nature “More-powerful AI is coming. Academia and industry must oversee it — together”）![]()
近年来，人工智能领域的快速发展，尤其是大型语言模型（Large Language Models, LLM）的崛起，让人们对技术的未来充满期待。从ChatGPT到Google Gemini，再到Claude，这些模型展现了强大的生成能力与广泛的适应性。它们能够生成代码、总结学术论文、回答数学问题，甚至在一些看似需要深度理解的任务上表现得相当出色。然而，在这些令人惊叹的能力背后，LLM的局限性也逐渐显现。尽管LLM的能力横跨多个领域，但它们依然主要依赖于“预测下一个词”的算法本质。其运行机制是基于海量数据的统计分析来生成答案，而不是通过真正的推理或理解。换句话说，LLM善于“看起来正确”，但并不一定能解决问题。例如，研究人员对ChatGPT-4的性能测试显示，在抽象推理和复杂规划等需要深度认知的任务上，这些模型表现平平，距离通用人工智能（Artificial General Intelligence, AGI）仍有很大差距。一个关键的短板在于LLM缺乏一致的“世界模型”（World Models）。所谓“世界模型”，指的是对周围环境的结构化理解，这种能力是人类进行推理、计划和跨领域知识迁移的基础。正因如此，LLM在面对未见过的领域或新问题时，往往缺乏真正的适应性和创造力。研究人员指出，构建这样的模型可能需要借助神经科学和认知科学的突破，而不仅仅是依靠更大的数据量或计算能力。此外，LLM的能源消耗和对海量数据的依赖也限制了其可持续性。一些专家认为，未来更智能的系统可能并不需要更大，而是需要更“聪明”，比如通过优化数据采样方式减少资源浪费。这种方法将使人工智能更高效，也更接近于AGI的真正目标。通用人工智能（Artificial General Intelligence, AGI），一个曾经只存在于科幻小说中的概念，如今已成为人工智能领域最引人关注的目标之一。AGI的定义并不精确，但它被广泛认为是一种能够在人类水平上完成推理、规划、学习和决策的智能系统。与目前的大型语言模型（Large Language Models, LLM）不同，AGI并不仅仅局限于处理特定任务，而是具备在任何领域自主适应和应对挑战的能力。如果这一目标得以实现，其潜力将颠覆几乎所有行业，从医疗、教育到交通、科学研究，改变社会的运行方式。然而，对于AGI何时能够实现，不同领域的观点存在显著差异。一些技术企业的高管，如OpenAI首席执行官Sam Altman，公开表示，超级智能的实现可能仅在数千天之内。然而，这种乐观预测在学术界却受到了广泛质疑。许多研究人员认为，尽管当前的LLM在自然语言处理和数据生成方面表现非凡，但距离AGI还有很长的路要走。现有系统主要依赖数据驱动的统计模式，缺乏真正的推理能力和跨领域的通用性。此外，学术界还担忧技术企业对AGI研究的过度封闭性。大多数AGI相关的突破性研究都发生在工业界，但企业通常出于竞争考量，限制研究透明度和开放性。这使得学术界难以验证这些系统的真实能力，甚至无法判断这些技术距离AGI有多远。相较之下，学术界更倾向于保守估计，认为AGI的实现可能需要十年甚至更长时间，特别是在需要跨学科融合的情况下。大型语言模型（LLM）的崛起让人工智能迈向了前所未有的高度，但它们的局限性同样清晰可见。在这些模型中，技术的“规模”常被视为核心优势——更多的数据、更强的算力、更复杂的参数。然而，真正通往智能的道路却似乎不在于“更大”，而在于“更智”。当前LLM的主要瓶颈之一，是缺乏一致的“世界模型”（World Models）。人的智慧很大程度上依赖于这样的模型：我们不仅能理解信息，还能在新的情境中灵活应用。而LLM的工作原理则是通过统计分析数据，预测句子中的下一个单词。虽然这让模型生成的内容显得“聪明”，但它本质上仍然是“模式匹配”，并没有真正的认知能力。数据的过度依赖是另一个关键问题。LLM的训练需要巨量的数据和算力，而这些资源的获取成本极高且不可持续。即使拥有庞大的数据量，这些模型也无法对其信息进行选择性学习，而是倾向于“吞下”所有内容。相比之下，我们会选择性地关注重要信息，并将其转化为可操作的知识。理论神经科学家Karl Friston认为，未来更聪明的AI可能需要更高效的学习机制，而不是仅仅依靠规模化。此外，LLM的推理能力也受限于其训练方法。研究人员发现，这些模型在涉及抽象推理和复杂规划的任务上表现不佳，无法跨领域迁移知识。例如，尽管LLM可以生成看似有逻辑的内容，但在解决实际问题时往往力不从心。这种局限使其在许多领域的应用受到约束。尽管当前的大型语言模型（LLM）已经展示了非凡的能力，但要实现通用人工智能（AGI），研究人员普遍认为仅靠现有技术架构远远不够。未来的突破可能需要深入借鉴神经科学和认知科学的研究成果，以弥补人工智能在理解和推理能力上的短板。神经科学为人工智能提供了模拟大脑机制的思路。在人类大脑中，神经元通过复杂的网络进行信息处理，这不仅仅是简单的信号传递，更涉及动态的模式识别和高效的学习能力。加拿大蒙特利尔大学的研究团队正致力于开发全新的人工智能架构，希望通过更接近人类大脑的模型来支持“世界模型”（World Models）的构建。这种架构有望赋予AI系统更强的推理和规划能力，从而实现真正的通用性。认知科学则为AI注入了理解“学习”的新视角。传统的LLM需要通过大规模数据训练，但人的学习模式截然不同。我们能够通过少量的经验快速掌握新知识，并灵活应用于多种情境。这种能力被称为“样本效率”（Sample Efficiency）。认知科学的研究表明，未来的AI可能需要设计出能够自主选择和筛选信息的机制，而不是简单地“吞下”所有数据。这种创新将使AI变得更加高效且接近人的智能。跨学科合作的价值不仅在于为技术突破提供灵感，更在于验证AI发展的科学基础。例如，通过整合神经科学对大脑的理解，研究人员能够设计出更加真实和可信的AI模型；而认知科学对人思维的研究，则能够帮助AI开发出更合理的决策逻辑。AGI的实现注定是一场跨学科的协奏曲。只有神经科学、认知科学、计算机科学等领域携手并进，才能推动人工智能从“工具”向“伙伴”的转变。人工智能的迅速发展，背后是惊人的资源投入。在2021年，仅工业界在人工智能研究上的全球总支出就超过了3400亿美元，而同期美国政府的非国防部门仅拨款15亿美元用于AI研发，欧盟的年均投入约为10亿欧元。这种资源分配的不平衡，使工业界在AI领域占据了主导地位，而学术界则面临着前所未有的挑战。工业界的高额投入带来了显著优势。技术公司能够集中大量的计算资源，如昂贵的图形处理器（GPUs），支持对大规模数据的训练；它们还能吸引顶尖人才，通过丰厚薪酬和资源支持推动前沿技术的探索。然而，工业界的研究大多出于商业动机，许多关键成果因竞争压力而缺乏透明性，甚至无法被独立验证。这种封闭性削弱了学术界对AI技术真实能力的全面理解，也阻碍了跨领域的协作。面对资源的悬殊差距，学术界正在积极寻找应对策略。一种可能的解决方案是通过全球协作集中资源，例如创建类似欧洲核子研究中心（CERN）的人工智能研究机构。这类机构可以联合各国政府和大学的力量，吸引顶尖人才，并提供开放的研究环境，使学术界能够在资源和影响力上与工业界竞争。此外，学术界也在强调自身的独特优势。相比工业界专注于短期应用和盈利目标，学术界更倾向于基础研究和长期问题的探索，这为人工智能的突破性发展提供了不可或缺的理论支持。例如，对“世界模型”（World Models）和样本高效学习的研究，学术界已经贡献了许多重要的理论框架。资源之争不仅是学术界和工业界的竞争，也是确保人工智能发展公平与透明的关键。通过联合资源、强化基础研究以及倡导开放协作，学术界能够在这场竞赛中占据一席之地，同时为人工智能的未来铺平道路。这不仅关乎技术的进步，更关乎社会的整体利益。通用人工智能的实现，可能成为人类历史上最具革命性的技术突破之一。它承载着改变世界的潜力，但也如同一柄双刃剑，伴随着巨大的社会、伦理与安全挑战。如何在拥抱技术红利的同时规避风险，已成为不可回避的关键议题。AGI的潜力是巨大的。它可以推动科学研究进入全新的维度，例如自动发现药物分子、优化全球能源使用、解决复杂的气候变化问题等。它的学习和适应能力将使其能够高效解决我们面临的重大挑战。然而，技术的强大也意味着风险的增加。AGI的自适应性和自主性，可能导致技术开发者失去对其行为的全面控制。一旦AGI的能力被恶意利用，其造成的社会破坏可能超出想象，例如网络安全威胁、假信息传播以及军事用途等。另一个重要挑战是伦理问题。AGI的发展可能加剧社会的不平等。例如，高度智能化的系统可能替代大部分劳动岗位，导致大量人群失业，而技术的收益却集中在少数拥有资源的企业和国家手中。此外，AGI的决策过程缺乏透明性，也让我们难以完全信任这些系统。在这样的背景下，技术的监督与评估显得尤为重要。学术界和工业界的协作尤为重要。唯有通过跨学科的研究与透明的开发流程，才能更全面地评估AGI的潜力与风险。全球范围内的监管框架也是不可或缺的，它将帮助规范技术的使用，确保AGI的发展遵循人类共同的价值观。AGI是一项跨越边界的技术，其影响不仅局限于科学与工业领域，更涉及整个社会的福祉。要驾驭这柄双刃剑，我们需要的不仅是技术上的突破，更是社会责任感和全方位的监督体系。这样，AGI才能真正为人类造福，而非成为不可控的威胁。https://www.nature.com/articles/d41586-024-03911-3
声明：本文仅用于分享，不代表平台立场，如涉及版权等问题，请尽快联系我们，我们第一时间更正，谢谢！
