白小交 发自 凹非寺
量子位 | 公众号 QbitAI
过年关啦！阿里送上了今年最后一份礼物——
“眼睛”模型QVQ，其中V代表视觉。它只需读取图像和指令，就可以开始思考。
I’m watching you！
据介绍，这可能是全球第一个视觉推理模型，也可以把它理解为上个月开源的阿里版o1模型QwQ的视觉版本。
可以解决数物化生等各领域问题。
读梗图、数鸭子也不在话下。
目前该模型处于实验阶段，开放测试。
结果可能因为访问过多，网页一度还404了。
从性能表现上看，QVQ在MMMU 上的得分为 70.3，这一结果超过GPT-4o、Claude 3.5 Sonnet，但比o1模型还差了那么一点。
阿里开源首个视觉推理模型
官方给了几个演示Demo，让咱们好好感知一下它的推理能力。
首先来看这道数学题。
解题思路如下：
再来个几何题，算算这个沙发的面积。
它的推理过程如下：
高中化学题：图片中的滤液E是什么化学物质？
它的答案是：硫酸亚铁溶液。
他们在四个数据集对眼睛模型QVQ-72B-Preview进行了评估，包括MMMU、MathVista、MathVision、OlympiadBench，主要考察数学多模态推理以及综合理解推理方面的能力。
QVQ-72B-Preview在 MMMU 基准测试中取得了70.3分，大大超过了其前身 Qwen2-VL-72B-Instruct。
此外，在其余三个以数学和科学问题为重点的基准测试中，该模型也表现出了卓越的性能，缩小了与o1模型之间的差距。
不过目前该模型属于是团队的实验研究模型，不是特别稳定，有几个限制需要注意。
语言混合和代码切换：该模型可能会意外地混合语言或在语言之间切换，从而影响回答的清晰度。
递归推理：模型可能会陷入循环逻辑模式，产生冗长的回复而无法得出结论。
安全和道德方面的考虑：该模型需要加强安全措施，以确保性能可靠和安全，用户在部署时应谨慎。
性能和基准限制：尽管该模型在视觉推理方面有所改进，但它不能完全取代 Qwen2-VL-72B-Instruct 的功能。此外，在多步骤视觉推理过程中，模型可能会逐渐失去对图像内容的关注，从而导致幻觉。
好好预防针打了，那咱们浅浅实测一波。
比如这道考验谷歌版o1的题目：
如何利用这些数字加起来等于30？
结果它识别出来了这几个球对应的数字，没有意识到9号球可以翻转成6号球，然后就陷入无尽的思考之中。。。
在blog最后，他们也透露了接下来的目标——增强视觉语言基础模型，使其具备基于视觉信息进行深度思考和推理的高级能力。
把时间拉长，他们计划是将更多的模态整合到统一的模型中，能够应对复杂的挑战并参与科学探索。
（模型尽头是AI For Science？）
参考链接：
[1]https://x.com/Alibaba_Qwen/status/1871602879972405626
[2]https://qwenlm.github.io/blog/qvq-72b-preview/
— 完 —
点这里👇关注我，记得标星哦～
