AI性能相当不错的M5Stack LLM模块

科技   科技   2024-11-07 20:55   江苏  
最近我发现M5Stack发了一个
LLM离线大语言模型推理AI模块
M5Stack LLM Module

用户无需繁琐设置,即可将其集成到现有智能设备中。
适用离线语音助手文本语音转换,智能家居控制,互动机器人等领域。

模块内置Ubuntu系统
集成了StackFlow框架
配合Arduino/UIFlow库
几行代码就可轻松实现端侧智能。
出厂就预装了Qwen2.5-0.5B大语言模型
内置KWS唤醒词),ASR(语音识别),LLM(大语言模型),TTS(文本转语音)功能,且支持分开调用或用pipeline自动流转
后续还将支持Qwen2.5-1.5B、Llama3.2-1B及InternVL2-1B等多种端侧LLM/VLM模型。
视觉识别能力:支持CLIP、YoloWorld等Open world模型,未来还将持续更新DepthAnything、SegmentAnything等先进模型。

而实现这些,主要得益于模块搭载的爱芯元智AX630C SoC。
它采用双核Cortex-A53@1.2GHz核心。
集成了3.2TOP/s的高效能NPU,原生支持Transformer模型
官方测试,跑AI Benchmark,大部分和Jetson Orin Nano @10TOP/s,不相上下,有一部分还大幅领先Jetson Orin Nano,这个算力表现,算是相当不错的了

带有4GB LPDDR4内存,其中1GB供用户使用,剩下3GB全部被用于硬件加速。还板载32GB eMMC存储。
模块自带MSM421A麦克风,带有AW8737音频驱动用来推动8Ω@1W,尺寸为2014的腔体喇叭
还带有三个2020 RGB LED灯珠,由LP5562驱动,用来显示状态。

带有一根USB OTG Type-C接口,支持Host Device Upgrade,既可以做调试接口,也可以外接USB设备,如摄像头。可以搭配LLM调试套件扩展出百兆网口,和内核串口,作为单板计算机使用。也就是说也可以不买M5Stack的核心控制器,也可以单独使用

运行功耗也很低,空载只需5V@0.5W,满载只需5V@1.5W

价格上LLM模块卖349,并且现在是缺货状态

总得来说,我觉得这个模块还不错,特别是爱芯元智AX630C这个芯片的性能还是相当不错的,但目前似乎就这个LLM模块有搭载,别的采用的不多,如果你也想要一个类似性能的AI开发板,可以关注一下爱芯元智的SoC。
而这个模块除开它适配M5Stack核心模块之外,带有4GB内存,32GB eMMC,还带有屏幕,麦克风,喇叭,我觉得这个价格也还行,可以接受的一个价格,如果你有类似需求可以也可以看看这个模块,特别是有M5Stack Core的用户。

开发板选型网站,欢迎大家访问,虽然还不是很完善,但是已经录入了500多个左右的开发板,如果你有兴趣,或者有需求的可以看看我们的选型网站,你有什么好的建议也可以在群里说或者给我们留言

我们网站的域名是:findboard.cn

(我们现在还没有对手机端进行适配,如果你是手机访问的话,暂时效果可能不会很让人满意,暂时建议使用电脑端浏览器访问

芯板坊
芯板坊为您提供最全面国内外开发板资讯、评测、试用,折扣等信息,包括现今的热门开发板,如树莓派、Arduino、人工智能开发板、RK3399、STM32、开源硬件等
 最新文章