当前普遍的分割方法擅长像素级的图像和视频理解，但缺乏推理能力，且不能通过文本指令进行控制。大型视觉-语言模型虽展现出基于视觉的对话和推理能力的强大，却缺失像素级理解，且难以接受视觉提示。昆仑天工首发提出OMG-LLaVA框架，将强大的像素级视觉理解与推理能力相结合，可以接受各种视觉和文本提示以实现灵活的用户交互，它将图像级、目标级和像素级的推理和理解任务统一在一个模型中。
读论文是学习新知识的最快途径，研梦非凡于11月8日晚（周五），邀请了多模态专家王导师，为大家独家详解《顶会新方向！CVPR+NeurIPS：分割大模型》，从OMG-Llava框架到OMG-Seg编码器，重点讲解OMG-Llava的模型架构以及实验，包括两篇顶会论文的分析解读，最后代码演示，一节课速通分割大模型，领会顶会idea！
👇🏻扫描二维码找助教0元预约直播课！
直播课内容预览
NeurIPS‘24《OMG-LLaVA : Bridging Image-level,Object-level,Pixel-level Reasoning and Understanding》
一、研究背景
关注问题
普遍的分割方法 大型视觉-语言多模态模型
主要贡献
提出OMG-LLaVA 使用通用分割方法作为视觉编码器 感知先验嵌入
二、相关工作
CVPR'24《OMG-Seg : Is One Model Good Enough For All Segmentation?》
多模态大语言模型MLLMs
仅具有图像级能力的MLLMs 具有目标级能力的MLLMs 具有像素级能力的MLLMs 具有目标级和像素级能力但系统非常复杂的MLLMs OMG-LLaVA的架构
视觉分割任务
语义分割 实例分割 全景分割
分割模型的对比
三、方法：OMG-LLaVA
Framework OMG Decoder 感知先验嵌入 Training
四、实验
训练与测试 数据集设置 实现细节 实验结果
五、总结和未来研究方向
👇🏻扫描二维码找助教0元预约直播课！
直播导师介绍
王导师
【学术背景】拥有丰富的深度学习研究、论文发表经验，多篇SCI论文、EI会议论文（一作）
【研究方向】大语言模型、视觉语言模型、多模态学习，以及自然语言处理、进化算法等
👇🏻扫描二维码找助教0元预约直播课！约导师meeting～
研梦非凡科研论文指导
科研论文idea，并非拍脑门就能产生，需要经过一遍遍做实验、跑代码、改模型、思路修正。研梦非凡专业论文指导，和研梦导师一起找idea，共同解决科研问题。授之以渔——搭建论文写作框架，增删改查，针对性实验指导！哪里薄弱补哪里！
<<< 左右滑动见更多 >>>
研梦非凡部分导师介绍
研梦非凡导师团队，来自海外QStop200、国内华五、C9、985高校的教授/博士导师/博士后，以及世界500强公司算法工程师、国内外知名人工智能实验室研究员等。
这是一支实力强大的高学历导师团队，在计算机科学、机器学习、深度学习等领域，积累了丰富的科研经历，研究成果也发表在国际各大顶级会议和期刊上，在指导学员的过程中，全程秉持初心，坚持手把手个性化带教。包括但不限于以下导师～
<<< 左右滑动见更多 >>>
每期课表（第一二期已满，三期开招）
<<< 左右滑动见更多 >>>
我们不是小作坊哦～我们背靠研途考研（就是张雪峰老师和徐涛老师在的那个研途考研），做教育十余年，重交付，重口碑，是我们一贯的公司理念！
