在这篇文章发出时
Meta 发布了 Llama 3.2
「赛博禅心」第一时间带来详细报道
这次发布
北京时间,2024 年 9 月 26 日 凌晨,Meta 发布 Llama 3.2。
本次发布,包含 4 种尺寸的模型,包括 1B、3B、11B 和 90B,以及一些硬件:一款新的雷朋 AI 眼镜 和 Meta Quest 3S:
1B/3B:旨在提供边缘算力,也就是可以在如移动设备上运行,目前已支持Arm、高通(Qualcomm)和联发科(MediaTek)
11B/90B:具备多模态能力,并可直接替代 Llama 3.1 8B 和 70B。
Llama Stack: 开发套件,帮助快速构建、部署 AI 应用。
雷朋眼镜:支持车位助记、实时翻译、多模态问答等功能。
Meta Quest 3S:最新的 VR 玩具,299.99 美金
趣闻:Llama 不给欧洲用
前几天,Llama 的负责人 Ahmad Al-Dahle 发了条消息:由于监管问题,多模态的 Llama,不会开放给欧洲
第 1 部份
Llama 3.2 的新模型
Llama 3.2 包含 4 种尺寸: 1B、3B、11B 和 90B,性能提升,最大上下文为 128k。
小杯 1B/3B
多语言(但不支持中文)
这两个模型,支持英语、德语、法语、意大利语、葡萄牙语、印地语、西班牙语和泰语 8 种官方语言,但不支持中文。上下文长度为128k,训练数据截止日期为 2023 年 12 月
端测用途
这个模型,非常适合在端侧,比如手机、平板、笔记本,以及类似设备中使用。用来进行一些文本改写、查询、缩写的任务,性能对表 Gemma2 以及 Phi-3.5-Mini
中杯 11B/90B
同样不支持中文
这两个模型,同样是 128k 上下文,训练数据截止日期为 2023 年 12 月。也同样不支持中文,比如我问他“你好”,回复的是英文。
对标主流模型
这两个模型对标的是 Claude3-Haiku(小杯)和 GPT-4o-mini(小杯),参数比拼有来有回
Llama Stack
干啥的
这是是一组标准化的 API 组件,加速你的 AI 开发。这个组件涵盖了整个开发生命周期,从模型训练和微调,到产品评估,再到在生产环境中构建和运行 AI 代理。
包含...
这个里面,包含各种各样的东西,比如 Rag
开源
Hugging Face:
首页:https://huggingface.co/meta-llama
1B: https://huggingface.co/meta-llama/Llama-3.2-1B
3B:https://huggingface.co/meta-llama/Llama-3.2-3B
11B:https://huggingface.co/meta-llama/Llama-3.2-11B-Vision
90B:https://huggingface.co/meta-llama/Llama-3.2-90B-Vision
GitHub
https://github.com/meta-llama
第 2 部分
保守的欧洲
最近 Meta 多次因欧洲保守的隐私法案提出抗议,比如:
这种问题很难评判对错,但从结果上看,欧洲的科技确实会遇到些许阻碍。
这里,我将提到的公开信翻译一下:
欧洲需要对人工智能的监管明确性
Fragmented regulation means the EU risks missing out on the AI era.
片段化的监管使得欧盟可能会错失人工智能时代的机遇。
We are a group of companies, researchers and institutions integral to Europe and working to serve hundreds of millions of Europeans. We want to see Europe succeed and thrive, including in the field of cutting-edge AI research and technology. But the reality is Europe has become less competitive and less innovative compared to other regions and it now risks falling further behind in the AI era due to inconsistent regulatory decision making.
我们是一群公司、研究人员和机构,致力于服务数亿欧洲人,推动欧洲的成功与繁荣,尤其是在尖端人工智能研究和技术领域。然而,现实是,欧洲在与其他地区的竞争力和创新能力上逐渐减弱,面临在人工智能时代进一步落后的风险,这主要是由于监管决策的不一致。
In the absence of consistent rules, the EU is going to miss out on two cornerstones of AI innovation. The first are developments in ‘open’ models that are made available without charge for everyone to use, modify and build on, multiplying the benefits and spreading social and economic opportunity. Open models strengthen sovereignty and control by allowing organisations to download and fine-tune the models wherever they want, removing the need to send their data elsewhere. The second are the latest ‘multimodal’ models, which operate fluidly across text, images and speech and will enable the next leap forward in AI. The difference between text-only models and multimodal is like the difference between having only one sense and having all five of them.
在缺乏一致规则的情况下,欧盟将错失人工智能创新的两个基石。第一个是“开放”模型的发展,这些模型可以免费供所有人使用、修改和构建,从而倍增收益,创造社会和经济机会。开放模型通过允许组织在任何地方下载和微调模型,增强了主权和控制,消除了将数据发送到其他地方的需要。第二个是最新的“多模态”模型,这些模型能够在文本、图像和语音之间流畅地运作,将推动人工智能的下一次飞跃。仅有文本的模型与多模态模型之间的区别,就像只有一种感官与拥有五种感官之间的区别。
Frontier-level open models – based on text or multimodal – can turbocharge productivity, drive scientific research and add hundreds of billions of euros to the European economy. Public institutions and researchers are already using these models to speed up medical research and preserve languages, while established businesses and start-ups are getting access to tools they could never build or afford themselves. Without them, the development of AI will happen elsewhere – depriving Europeans of the technological advances enjoyed in the US, China and India.
前沿开放模型——无论是基于文本还是多模态——能够显著提升生产力,推动科学研究,并为欧洲经济增加数千亿欧元。公共机构和研究人员已经在利用这些模型加速医学研究和保护语言,而成熟企业和初创公司也获得了他们自己无法构建或负担得起的工具。如果没有这些模型,人工智能的发展将会转移到其他地方,欧洲人将失去在美国、中国和印度所享有的技术进步。
Generative AI - woman using laptop Research estimates that Generative AI could increase global GDP by 10% over the coming decade1 and EU citizens shouldn’t be denied that growth.
研究表明,生成性人工智能在未来十年内可能使全球 GDP 增长 10%,欧盟公民不应失去这一增长机会。
The EU’s ability to compete with the rest of the world on AI and reap the benefits of open source models rests on its single market and shared regulatory rulebook. If companies and institutions are going to invest tens of billions of euros to build Generative AI for European citizens, they require clear rules, consistently applied, enabling the use of European data. But in recent times, regulatory decision making has become fragmented and unpredictable, while interventions by the European Data Protection Authorities have created huge uncertainty about what kinds of data can be used to train AI models. This means the next generation of open source AI models, and products, services we build on them, won’t understand or reflect European knowledge, culture or languages.
欧盟在人工智能领域与全球竞争并从开源模型中获益的能力,依赖于其单一市场和共享的监管规则。如果公司和机构要投资数百亿欧元为欧洲公民开发生成性人工智能,他们需要明确且一致适用的规则,以便使用欧洲的数据。然而,近年来,监管决策变得支离破碎且不可预测,而欧洲数据保护机构的干预则导致了关于可用于训练人工智能模型的数据类型的巨大不确定性。这意味着下一代开源人工智能模型以及我们基于它们构建的产品和服务,将无法理解或反映欧洲的知识、文化和语言。
以上
由本「大聪明」报道
同时,我的下一篇选题有了
「欧洲:从文艺复兴,到科技荒漠🤔」