12月16日消息，钛媒体AGI获悉，国内 AI 公司无问芯穹宣布开源其“端模型+端软件+端IP”端上智能一体化解决方案中的小模型，即全球首个端侧全模态理解开源模型Megrez-3B-Omni，并同步开源了纯语言版本模型Megrez-3B-Instruct。
无问芯穹表示，据介绍，Megrez-3B-Omni是一个为端而生的全模态理解模型，选择了最适合手机、平板等端侧设备的30亿参数黄金尺寸，结构规整，推理速度最大领先同精度模型300%。作为一个全模态模型，Megrez-3B-Omni同时具备图片、音频、文本三种模态数据的处理能力，并在三个模态的多种测评基准中取得了最优性能。Megrez-3B-Omni是一个能力预览，接下来还将持续迭代Megrez系列，并包括软件、IP在内，提供“端模型+端软件+端IP”端上智能一体化解决方案。
据悉，无问芯穹成立于2023年5月，创始团队来自清华大学电子工程系，依托行业领先且经过验证的AI计算优化能力与算力解决方案，追求大模型落地的极致能效，打造“M 种模型”和“N种芯片”间的“M×N” 中间层产品，实现多种大模型算法在多元芯片上的高效、统一部署，链接上下游，建立AGI（通用人工智能）时代大模型基础设施。
产品层面，目前无问芯穹提供算力推理平台、一整套 AI infra解决方案、“端模型+端软件+端IP”端上智能一体化解决方案等。
截至目前，无问芯穹旗下平台已支持了Baichuan2、ChatGLM3、Llama2、Qwen系列等超过20个模型，以及AMD、壁仞、寒武纪、燧原、天数智芯、沐曦、摩尔线程、NVIDIA等10余种计算卡，支持多模型与多芯片之间的软硬件联合优化和统一部署。
融资层面，今年9月，无问芯穹（Infinigence AI）宣布完成近 5 亿元 A 轮融资，本轮融资联合领投方为社保基金中关村自主创新专项基金（君联资本担任管理人）、启明创投和洪泰基金，跟投方包括联想创投、小米、软通高科等战略投资方，国开科创、上海人工智能产业投资基金（临港科创投担任管理人）、徐汇科创投等国资基金，以及顺为资本、达晨财智、德同资本、尚势资本、森若玉坤、申万宏源、正景资本等财务机构，共计超过16家机构。
至此，在成立短短16个月内，无问芯穹累计已完成近10亿元融资。无问芯穹的过往投资方还包括百度、智谱、同歌创投等战略股东，以及红杉中国、砺思资本、徐汇资本、北极光创投、真格基金、惠隆创投、经纬创投、无限基金 SEE Fund、金沙江创投、星连资本、绿洲资本、南山资本、光源资本、七熹投资等众多知名投资机构。
无问芯穹联合创始人、CEO夏立雪曾对钛媒体AGI表示，在一个互联网客户大模型推理的业务场景中，无问芯穹将整体算力使用效率提升了90%，有效地解决了客户大模型业务中算力成本的问题，帮助业务伙伴实现算力成本的大幅下降。他指出，“我们认为（公司未来）3-5年内肯定能够规模化地实现利润”。
“我们在整个产业中属于连接模型和硬件，去让大家能够把算力更好地用起来的基础设施的工作。所以我们确实在成立一开始就和很多重要的合作伙伴已经做了很密切、深入的合作和一些战略协同。”夏立雪认为，在一个互联网客户中，无问芯穹利用软硬协同的核心技术优化客户大模型推理的业务场景，将算力使用成本降低了90%，实现算力资源大幅节省和提效作用。
中信建投研报指出，OpenAI “连续12天直播发布”的第5天，OpenAI表示，ChatGPT已全面接入苹果，包括iPhone、iPad和Mac，支持Apple Intelligence的苹果设备即可开启ChatGPT功能。端侧AI产业发展提速，建议关注AI模组机会。大模型厂商本质上是软件服务商，可以借助AI模组等硬件厂商的能力进行实物化输出，帮助终端厂商更顺利的进行应用落地，通过“端侧算力+通信+API”功能的AI模组产品，直接可以将大模型能力带入到各种终端设备，从而变成“AI终端”。
同日，今天Kimi 发布视觉思考模型 k1。k1 模型基于强化学习技术打造，原生支持端到端图像理解和思维链技术，并将能力扩展到数学之外的更多基础科学领域。在数学、物理、化学等基础科学学科的基准能力测试中，初代 k1 模型的表现超过了全球标杆模型 OpenAI o1、GPT-4o以及 Claude 3.5 Sonnet。
（本文首发于钛媒体App，作者｜林志佳，编辑｜胡润峰）
