国内的GPU租赁市场最近半年真是越来越魔幻了。
6月份还是一小时4块钱的A100,现在2.4元了,4090也因为天命人普遍通关进入了闲置状态,涌入了GPU租赁市场,眼看着4090的价格一骑绝尘降到了一块七。截图来源于:智星云算力平台
不是算力荒么,怎么GPU租赁价格都在跳水?
今年信通院发布了《中国算力中心服务商分析报告(2024年)》,其中指出,全国算力中心机架总规模已超过了810万标准机架,算力总规模达到230EFLOPS,位居全球第二,远超欧洲、日本、韩国等。
而其中最重要的问题在于,算力资源的利用率问题。在算力的使用过程中,由于现有的供给结构与用户实际的算力需求不平衡、不匹配,出现供需错位,这也导致了出现了算力闲置和浪费。今年5月,斯坦福大学教授李飞飞称学术界正在面临AI计算资源的严重短缺,斯坦福大学的NLP实验室只有64块GPU(英伟达A100)。而这在不少其它高校的学生看来就已是天方夜谭了,不少高校甚至连1块英伟达A100 GPU也没有。国内大多高校,也大都是通过GPU租赁的方式获得算力进行科学实验。甚至连AI行业也没能逃过同样的命运,像国内以意间ai、无界为代表的千万用户量级的AI绘画平台,也都没有自己的GPU算力集群,以租用为主。
低价的背后,是鱼龙混杂的技术和服务
GPU算力租赁目前主要分为两种方式,平台自有GPU集群租赁以及CPC租赁模式。
前者一般都是“大云”,如阿里、华为、腾讯等;后者属于中介平台,撮合个人闲置的显卡上架租给其它个体。“大云”和“小云”无论是GPU算力规模还是技术实力,都有着天然的割裂。不同于阿里、华为等巨头旗下的云平台,CPC模式下的“小云”良莠不齐,为了争夺市场份额,不惜以超低价吸引客户,低价背后往往是低质量的硬件、不稳定的服务以及缺乏技术实力支持。举个例子,正规渠道采购的GPU有着严格的质量保障。而CPC个人租赁人多手杂,没有统一的标准,“矿渣卡”(挖矿类)泛滥严重,“矿渣卡”的显存、主板、芯片、散热片、风扇全都有伤,不可逆转的那种,伤的结果除了寿命透支之外还有性能的不稳定下跌。当“矿渣卡”重新被不靠谱的平台收拢用于AI和科研,几乎是一场灾难。同样是4090,测试下来正规平台算力中心卡用于AI文生图只需10s出图,而“矿卡”可能就要跑到30s~60s,这其中巨大的差距显而易见。这也就是我们在租赁GPU时,会发现一些平台的GPU与该型号卡实际应有的处理速度和效率,和认知严重不符。而数据安全也是重灾区,一些服务商在数据安全方面缺乏保障措施,导致用户数据泄露或丢失的风险增加。
有没有各方面都靠谱,价格还便宜的GPU租用平台?
当然。在这个鱼龙混杂的大环境里,它一骑绝尘。
智星云算力服务平台,上市公司安诺其集团(股票代码:300067)全资子公司上海亘聪信息技术有限公司旗下的GPU算力平台。智星云官方算力市场官网(请复制到浏览器打开),立即注册领取新人500元优惠礼包:创始团队成员全部来自英伟达和阿里云,天然具备行业基因优势,早在2020年就已经是国内具有知名度及代表性的GPU算力生态服务平台之一了。服务于国企、央企以及国内众多耳熟能详的头部AI平台,高校师生对它应该是不陌生的,尤其是清华北大的同学们,搞科研时第一个想到的大概就是智星云。GPU业务囊括云主机租赁、裸金属以及服务器出售三大板块。自有算力全部是数据中心正规算力,拥有英伟达全系列GPU产品,技术团队来自于阿里云专业团队,拥有等级保护、iso质量体系。性价比方面同样“遥遥领先”,弹性算力,按小时付费,随用随开,包月包年价格更加优惠。不只是企业和高校,炼丹大佬也普遍用的是智星云,一键云部署SD WebUI,还支持保存磁盘,短时间内不用了,可以把环境先存起来,下次使用一键启动。完全不会出现GPU到期了,我辛辛苦苦部署好的环境也废了的情况。另外,今年下半年智星云上线了积分商城系统,租用GPU就可以获得相应的积分,在积分商城兑换最新的数码科技产品,日常用品应有尽有,都是完全通过积分进行兑换。可以说相比众多积分商城,是目前见过的最有诚意的积分商城。GPU既便宜,服务又好的算力平台肯定不止智星云一个,但是智星云属于方方面面你都没办法拒绝的类型,他们真的好会。
现在注册还送500元新人优惠大礼包,立刻省钱!
礼包可以在算力市场-控制台-我的卡包-未使用中查看短租,智星云官方算力市场官网(请复制到浏览器打开):