你可以超方便地在线微调和部署Llama3了!社区算力平台上线

文摘   科技   2024-05-07 17:47   中国香港  
Llama 中文社区


为了方便大家微调和部署各类开源大模型,社区刚刚更新了算力平台并正式开放给大家!让你轻松微调和部署Llama3等主流开源大模型!



算力平台有什么用?

云主机可以部署任何开源的大模型或AI工具:

Llama3、Atom、Baichuan2、ChatGLM、Qwen、DeepSeek等主流大模型和各类工具Stable Diffusion、ComfyUI等等都可以支持。
LLM 语言模型部署至少需要RTX4090/3090(24GB显存)显卡数:

可以在线微调任何开源的LLM:

LLM 微调至少需要RTX4090/3090(24GB显存)显卡数如下:


如何使用?
见社区主页算力使用指南:
https://llama.family/compute/guide
不仅有云主机使用方法,还有大模型微调详细指导哦!



如果你在模型微调中遇到问题,也欢迎在社区交流群里咨询


社区公众号回复“交流”加入Llama中文社区交流群,一起玩转Llama3!


-End-



🏅社区专属人才培养计划


大模型相关技术都会在《大模型专家培养计划》中教学,点击下方图片链接了解&报名(干货满满)






       关于我们


Llama中文社区是由清华大学、北京大学、同济大学、中国科学技术大学等高校及机构组织以及Meta公司技术人员和AI领域技术人员共同发起的开源社区,旨在增强Llama开源模型的中文能力和生态建设,为中文大模型研究和企业应用提供全面的支持和技术分享。Llama中文社区现已登顶“开源中国”(OSCHINA)专区第一名。


从大模型到小模型,从文本到多模态,从软件到硬件算法优化,我们期望开源能够带给全人类以AI普惠。在一个科技爆发的时代,加入Llama Family,与技术一同进步,与社区一同前行,一起迈向AGI!


社区官网:https://llama.family

GitHub:https://github.com/LlamaFamily

HuggingFace:https://huggingface.co/FlagAlpha

社区课程: https://llama.family/academy?attach=gzh

关注公众号回复“交流”入群 

商务合作添加微信号:HellowCookie







Llama中文社区
最好的中文Llama大模型