租GPU算力又一轮价格暴跌,对高校和企业意味着什么?

科技   2024-12-19 13:05   上海  

国内的GPU租赁市场最近半年真是越来越魔幻了。

6月份还是一小时4块钱的A100,现在2.4元了,4090也因为天命人普遍通关进入了闲置状态,涌入了GPU租赁市场,眼看着4090的价格一骑绝尘降到了一块七

截图来源于:智星云算力平台

不是算力荒么,怎么GPU租赁价格都在跳水?

今年信通院发布了《中国算力中心服务商分析报告(2024年)》,其中指出,全国算力中心机架总规模已超过了810万标准机架,算力总规模达到230EFLOPS,位居全球第二,远超欧洲、日本、韩国等。

而其中最重要的问题在于,算力资源的利用率问题。在算力的使用过程中,由于现有的供给结构与用户实际的算力需求不平衡、不匹配,出现供需错位,这也导致了出现了算力闲置和浪费。
不止国内“算力荒”,国外也一样,以学术圈为例。
今年5月,斯坦福大学教授李飞飞称学术界正在面临AI计算资源的严重短缺,斯坦福大学的NLP实验室只有64块GPU(英伟达A100)。而这在不少其它高校的学生看来就已是天方夜谭了,不少高校甚至连1块英伟达A100 GPU也没有。

国内大多高校,也大都是通过GPU租赁的方式获得算力进行科学实验。甚至连AI行业也没能逃过同样的命运,像国内以意间ai、无界为代表的千万用户量级的AI绘画平台,也都没有自己的GPU算力集群,以租用为主。

低价的背后,是鱼龙混杂的技术和服务

GPU算力租赁目前主要分为两种方式,平台自有GPU集群租赁以及CPC租赁模式。

前者一般都是“大云”,如阿里、华为、腾讯等;后者属于中介平台,撮合个人闲置的显卡上架租给其它个体。
“大云”和“小云”无论是GPU算力规模还是技术实力,都有着天然的割裂。
不同于阿里、华为等巨头旗下的云平台,CPC模式下的“小云”良莠不齐,为了争夺市场份额,不惜以超低价吸引客户,低价背后往往是低质量的硬件、不稳定的服务以及缺乏技术实力支持
举个例子,正规渠道采购的GPU有着严格的质量保障。而CPC个人租赁人多手杂,没有统一的标准,“矿渣卡”(挖矿类)泛滥严重,“矿渣卡”的显存、主板、芯片、散热片、风扇全都有伤,不可逆转的那种,伤的结果除了寿命透支之外还有性能的不稳定下跌。
当“矿渣卡”重新被不靠谱的平台收拢用于AI和科研,几乎是一场灾难。
同样是4090,测试下来正规平台算力中心卡用于AI文生图只需10s出图,而“矿卡”可能就要跑到30s~60s,这其中巨大的差距显而易见。
这也就是我们在租赁GPU时,会发现一些平台的GPU与该型号卡实际应有的处理速度和效率,和认知严重不符。

而数据安全也是重灾区,一些服务商在数据安全方面缺乏保障措施,导致用户数据泄露或丢失的风险增加。

有没有各方面都靠谱,价格还便宜的GPU租用平台?

当然。在这个鱼龙混杂的大环境里,它一骑绝尘。

“大云”的品控,“小云”的价格。
智星云算力服务平台,上市公司安诺其集团(股票代码:300067)全资子公司上海亘聪信息技术有限公司旗下的GPU算力平台。
智星云官方算力市场官网(请复制到浏览器打开),立即注册领取新人500元优惠礼包
https://gpu.ai-galaxy.cn
创始团队成员全部来自英伟达和阿里云,天然具备行业基因优势,早在2020年就已经是国内具有知名度及代表性的GPU算力生态服务平台之一了。
服务于国企、央企以及国内众多耳熟能详的头部AI平台,高校师生对它应该是不陌生的,尤其是清华北大的同学们,搞科研时第一个想到的大概就是智星云
GPU业务囊括云主机租赁、裸金属以及服务器出售三大板块。
自有算力全部是数据中心正规算力,拥有英伟达全系列GPU产品,技术团队来自于阿里云专业团队,拥有等级保护、iso质量体系。
性价比方面同样“遥遥领先”,弹性算力,按小时付费,随用随开,包月包年价格更加优惠
不只是企业和高校,炼丹大佬也普遍用的是智星云,一键云部署SD WebUI,还支持保存磁盘,短时间内不用了,可以把环境先存起来,下次使用一键启动。完全不会出现GPU到期了,我辛辛苦苦部署好的环境也废了的情况。
另外,今年下半年智星云上线了积分商城系统,租用GPU就可以获得相应的积分,在积分商城兑换最新的数码科技产品,日常用品应有尽有,都是完全通过积分进行兑换。可以说相比众多积分商城,是目前见过的最有诚意的积分商城。

GPU既便宜,服务又好的算力平台肯定不止智星云一个,但是智星云属于方方面面你都没办法拒绝的类型,他们真的好会。

现在注册还送500元新人优惠大礼包,立刻省钱!

智星云官方算力市场官网(请复制到浏览器打开):
https://gpu.ai-galaxy.cn
礼包可以在算力市场-控制台-我的卡包-未使用中查看
也可以在创建实例时,选择左下角优惠券直接使用。
建议大家先注册起来,先把福利拿了再说。
短租,智星云官方算力市场官网(请复制到浏览器打开):
https://gpu.ai-galaxy.cn

长租,请扫码添加下方商务微信获得大客户超低报价。 

▼ 点击「阅读原文」,领取500元大礼包

CVer
一个专注于计算机视觉方向的公众号。分享计算机视觉、深度学习、人工智能、自动驾驶和高校等高质量内容。
 最新文章