写在前面
WeThinkIn最新福利放送：大家只需关注WeThinkIn公众号，后台回复“简历资源”，即可获取包含Rocky独家简历模版在内的60套精选的简历模板资源，希望能给大家在AIGC时代带来帮助。
Rocky最新发布Stable Diffusion 3和FLUX.1系列模型的深入浅出全维度解析文章，点击链接直达干货知识：https://zhuanlan.zhihu.com/p/684068402
大语言模型的进展催生出了ChatGPT这样的应用，让大家对“第四次工业革命”和“AGI”的来临有了一些期待，也作为部分原因共同造就了美股2023年的繁荣。LLM和视觉的结合也越来越多：比如把LLM作为一种通用的接口，把视觉特征序列作为文本序列的PrefixToken，一起作为LLM的输入，得到图片或者视频的caption；也有把LLM和图片生成模型、视频生成模型结合的工作，以更好控制生成的内容。当然2023年比较热门的一个领域便是多模态大模型，比如BLIP系列、LLaVA系列、LLaMA-Adapter系列和MiniGPT系列的工作。LLM的预训练范式也对视觉基础模型的预训练范式产生了一定的影响，比如MAE、BEIT、iBOT、MaskFEAT等工作和BERT的Masked Language Modeling范式就很类似，不过按照GPT系列的自回归方式预训练视觉大模型的工作感觉不是特别多。下面对最近视觉基础模型的生成式预训练的工作作一些简单的介绍。
LVM
《Sequential Modeling Enables Scalable Learning for Large Vision Models》是UC Berkely和Johns Hopkins University在2023提出的一个影响比较大的工作，视觉三大中文会议也在头版头条做了报道，知乎的讨论也比较热烈。
Sequential Modeling Enables Scalable Learning for Large Vision Models（https://arxiv.org/abs/2312.00785) https://github.com/ytongbai/LVM https://yutongbai.com/lvm.html
按照自回归的生成式训练模型的工作之前也有，比如Image Transformer和Generative Pretraining from Pixels等，不过无论是训练的数据量还是模型的参数量都比较小。LVM把训练数据统一表述成visual sentences的形式。对训练数据、模型参数量都做了Scaling，并验证了Scaling的有效性和模型的In-context推理能力。
本文的一大贡献便是数据的收集和整理，和训练LLM的文本数据一样规模的视觉数据在之前缺乏的，因此从开源的各种数据源出发，得到了 1.64billion 图片的数据集 UVDv1（Unified Vision Dataset v1）。文中对数据的来源以及将不同数据统一为visual sentences描述形式的方法做了详细的介绍Fig 1，可以refer原文更多的细节。
模型的结构如图Fig 2所示，主要包含三部分：Tokenizer、Autoregressive Vision Model和DeTokenizer。
其中Tokenizer和DeTokenizer取自于VQ-GAN，codebook大小为8192，输入图片分辨率为，下采样倍数为16，因此一张输入图片对应的Token数目为，这一个模块通过LAION 5B数据的1.5B的子集来训练。
这样对于一个visual sentence，会得到一个Token的序列（和目前的很多多模态大模型不一样，这儿没有特殊的token用以指示视觉任务的类型），作为Autoregressive Vision Model的输入，通过causal attention机制预测下一个Token。文中的自回归视觉模型的结果和LLaMA的结构一样，输入的token 序列的长度为4096个token（16张图片），同时在序列的开始和结束分别会放置[BOS](begin of sentence)和[EOS](end of sentence)，代表序列的开始和结束。整个模型在UVD v1（包含420 billion tokens）数据上训练了一个epoch，模型的大小包括四种：300 million、600 million、1 billion和3 billion。
从Fig 3可以看出，训练过程中，模型的loss一直在下降，而且模型参数量越大，loss下降越快
更多的实验结果分析可以refer原文。
EMU
《Generative Pretraining in Multimodality》是BAAI、THU和PKU的工作，提出了多模态大模型EMU，EMU的输入是image-text interleaved的序列，可以生成文本，也可以桥接一些扩散模型的Decoder生成图片。
https://arxiv.org/abs/2307.05222 https://github.com/baaivision/Emu
EMU的结构如图Fig 4所示，包含四个部分，Visual Encoder（文中用的EVA-02-CLIP）、Causal Transformer、Multimodal Modeling（LLaMA）和Visual Decoder（Stable Diffusion）。
对于输入的 image-text-video interleaved的序列，EVA-CLIP会提取图片的特征，同时通过causal Transformer得到个visual embeddings ，即。对于包含个frame的视频，则会得到个视觉embedding。在每一张图片或者每一帧的特征序列的开始和结束分别有特殊的token，即[IMG]和[/IMG]。
text通过文本的tokenizer得到文本特征序列，和视觉信息对应特征序列连接，并在序列的开始和结束处分别添加表述开始和结束的特殊token，即[s]和[/s]。最后得到的多模态序列作为LLaMA的输入，得到文本输出，而LLaMA输出的视觉特征序列作为扩散模型的条件输入，得到生成的图像。
Emu用Image-text pair的数据、Video-text pair的数据、Interleaved Image and Text的数据以及Interleaved Video and Text的数据进行预训练。对于预测的文本token来说，损失函数为预测下一个token的cross entropy loss；对于视觉token来说，则是的回归损失。
对Emu预训练之后，会对图片生成的Stable Diffusion的Decoder进行微调。微调的时候，只有U-Net的参数会更新，其他的参数固定不变。训练数据集为LAION-COCO和LAION-Aesthetics。每一个训练样本的文本特征序列的结尾处都会添加一个[IMG] token，最后通过自回归的方式得到个视觉特征，这些特征序列作为Decoder的输入得到生成的图片。
文中还对Emu进行多模态指令微调以对其human instructions。数据集包括来自于ShareGPT和Alpaca的文本指令、来自于LLaVA的图像-文本指令以及来自于VideoChat和Video-ChatGPT的video指令。微调的时候，Emu的参数都会固定不变，只有LoRA模块的参数更新。微调的指令跟随数据集格式如下：
[User]和[ASSISTANT]分别是单词“word”和“assistant”对应的embedding，不同的任务下
Fig 5是Emu的In-context Learning推理的一个例子，输入图片-描述，以及query文本，会得到对应的输出图片。
4M
《4M: Massively Multimodal Masked Modeling》是瑞士洛桑联邦理工和Apple发表在NeurIPS 2023的一个工作，提出了一种对视觉模型做生成式预训练的范式4M（Massively Multimodal Masked Modeling），将多模态的输入信息编码为特征序列，作为Transformer encoder-decoder的输入，同时采用Masked Modeling的方式，在大量的数据集上对模型进行了训练预训练，可以实现多模态输入、多模态输出，得到的transformer encoder也可以作为一些视觉任务的backbone网络提取图片特征。
4M: Massively Multimodal Masked Modeling(https://arxiv.org/abs/2312.06647) 4M: Massively Multimodal Masked Modeling(https://4m.epfl.ch/)
模型的结构如图Fig 6所示，不同模态的输入按照不同的方式编码为特征序列，同时从特征序列中随机选择一部分作为context，另外一部分作为需要预测的target，模型基于context序列预测target序列。
文中对bounding box的Tokenization方式和Pix2Seq一样，比如对于一个坐标为的框，会按照1000的分辨率对这些坐标做编码，即，这些编码之后的坐标和文本一样，通过WordPiece的text tokenizer得到对应的特征序列，训练的时候通过cross entropy的方式计算重建的loss。
分割的掩码通过ViT-B结构的encoder得到对应的特征序列，也通过ViT-B结构的decoder得到对应的重建结果，然后通过损失计算重建损失。
RGB、normals或者depth图则是用VQ_VAE的的encoder得到特征序列，同时用扩散模型的decoder得到重建结果，损失不是扩散模型里面常用的噪声回归损失，而是重建clean image的损失。
预训练之后的模型可以通过自回归的方式得到输出的特征序列，这些特征序列可以通过对应的decoder解码得到输出的图片、文本等，如图Fig7所示。训练之后encoder可以作为目标检测、语义分割等视觉任务的骨架网络。
VL-GPT
《VL-GPT: A Generative Pre-trained Transformer for Vision and Language Understanding and Generation》是西交、腾讯和港大提出的一个工作。
VL-GPT: A Generative Pre-trained Transformer for Vision and Language Understanding and Generation(https://arxiv.org/abs/2312.09251) https://github.com/AILab-CVC/VL-GPT
模型的结构如图Fig 8所示，包含两个部分，第一个部分是image tokenizer-detokenizer框架的训练，第二个部分是VL-GPT模型的预训练和指令微调。输入模型的文本、图片分别通过Image Tokenizer和Text Tokenizer得到图像和文本特征序列，连接之后得到imate-text interleaved的文本-图像特征序列，作为LLM的输入，通过自回归的方式得到输出的特征序列，输出的特征序列通过Image和Text Detokenizer得到生成的图片和文本。
Image tokenizer-detokenizer包含一个tokenizer 将图片编码为连续的视觉特征序列。detokenizer 则是将视觉特征转换为图片输出。
文中的用了ViT结构，得到输入图片的特征序列，而detokenizer 则是用到了隐空间扩散模型，包含一个transformer decoder用于基于估计扩散模型的条件特征，可以作为扩散模型的decoder的条件得到生成的图片。训练的时候如图Fig 9所示，用预训练的CLIP模型的图像encoder和文本encoder提取图像和文本特征作为监督信息，损失函数为。
VL-GPT包含image tokenizer-detokenizer的tokenizer和detokenizer，其组件分别为LLM （文中用到了LLaMA）、图像encoder 、文本encoder 、图像detokenizer 和文本detokenizer 。输入image-text interleaved数据通过图像encoder和文本encoder得到多模态的特征序列，作为的输入，对下一个token进行预测。
预训练损失为，其中对于文本输出的token来说，损失为cross-entropy loss，对于视觉token来说，损失为。VL-GPT也用到了LLaVA、SVIT、InstructPixPix、Magicbrush和COCO Caption的数据进行指令微调。
更多的细节可以refer原文。
VILA
《VILA: On Pre-training for Visual Language Models》是NVIDIA和MIT提出的一个工作，文中对视觉语言模型预训练的有效机制进行了一些总结，并提出了一系列视觉语言的大模型VILA（Visual Language）。
https://arxiv.org/abs/2312.07533
模型的结构如图Fig 10左图所示，和LLaVA系列差不多，模型的训练包含三个阶段，如图Fig 10所示。
LLM和ViT都是单独训练的，连接LLM和ViT的projector是随机初始化的，因此会首先对projector做训练。 这一个阶段对LLM和projector进行训练。 第二个阶段则是对预训练的模型进行视觉指令微调。
通过一系列的实验，文中得到了下面的三个结论：
LLM冻结与更新：在预训练过程中，冻结大型语言模型（LLM）可以实现不错的零样本（zero-shot）性能，但缺乏上下文学习能力（in-context learning capability）。为了获得更好的上下文学习能力，需要对LLM进行更新。实验表明，更新LLM有助于在更深层次上对齐视觉和文本的潜在嵌入，这对于继承LLM的上下文学习能力至关重要。 交错预训练数据：交错的视觉语言数据（如MMC4数据集）对于预训练是有益的，而仅使用图像-文本对（如COYO数据集）则不是最佳选择。交错数据结构有助于模型在保持文本能力的同时，学习与图像相关的信息。 文本数据重混合：在指令微调（instruction fine-tuning）阶段，将文本指令数据重新混合到图像-文本数据中，不仅能够修复LLM在文本任务的性能退化，还能提高视觉语言任务的准确性。这种数据混合策略有助于模型在保持文本能力的同时，提升对视觉语言任务的处理能力。
EMU2
《Generative Multimodal Models are In-Context Learners》是Emu的团队提出的另外一个工作，文中提出的多模态大语言模型Emu2对Emu进行了一些结构和训练策略上的改进。
Generative Multimodal Models are In-Context Learners(https://arxiv.org/abs/2312.13286) https://github.com/baaivision/Emu https://baaivision.github.io/emu2/
模型的结构如图Fig 11所示，包含三个部分：Visual Encoder、Multimodal LLM和Visual Decoder，文中分别用EVA-02-CLIP-E-plus、LLaMA-33B和SDXL对上述的三个模块进行参数初始化。和Emu相比，少了Casual Transformer，输入的图片通过mean pooling以及Visual Encoder提取图像特征之后，通过线性映射连接Visual Encoder和Multimodal LLM。
在预训练阶段，用到的训练数据包括image-text pair形式的数据（LAION-2B、CapsFusion-120M）、video-text pair形式的数据（WebVid-10M）、interleaved image-text形式的数据（Multimodal-C4 MMC4）、interleaved video-text形式的数据（YT-Storyboard-1B）、grounded image-text pair形式的数据（GRIT-20M、CapsFusoion-grounded-100M），同时为了保持模型的文本推理能力，还在只有文本数据的Pile上对模型进行了训练。图片都会通过visual encoder得到大小为的图像特征序列。
模型首先在image-text和video-text形式的数据上做了训练，损失函数只在text token上进行了计算。 接下来，固定住Visual Encoder的参数，对linear projection layer和Multimodal LLM的参数进行训练，包括文本的分类损失（这儿应该就是Cross Entropy）以及图像回归损失（针对图像特征的损失）。训练的时候，所有形式的数据都用来对模型进行了训练。 最后会对Visual Decoder进行训练，文中用SDXL-base对Visual Decoder的参数进行初始化，LLM输出的 大小为的图像特征序列会做为Decoder的条件，引导图片或者视频的生成。用到的训练数据包括LAION-COCO和LAION-Aesthetics，SDXL里面的Visual Encoder和VAE的参数都会固定不变，只有U-Net的参数会进行更新。
在指令微调阶段，用不同类型的数据，得到两个不同的指令微调模型，分别为Emu2-Chat和Emu2-Gen。Emu2-Chat可以基于多模态的输入得到对应的输出，Emu2-Gen则是接受文本、位置和图片的输入，生成符合输入条件的图片。
在训练Emu2-Chat的时候，用到了两种类型的数据，分别为academic-task-oriented 数据和multi-modal chat数据。academic-task-oriented数据包括image caption数据（比如COCO Caption和TextCaps）、visual question-answering数据（比如VQAv2、OKVQA、GQA、TextVQA）以及多模态分类数据（M3IT、RefCOCO、RecCOCO+和RefCOCOg），对应的system message为。multi-modal chat数据则是包括GPT辅助生成的数据（LLaVA和LLaVaR里面的数据）、来自于ShareGPT和Alpaca的语言指令数据和来自于VideoChat的视频指令数据，对应的system message为
在训练Emu2-Gen的时候，用到的数据包括CapsFusion-grounded-100M、Kosmos-2提到的GRIT、InstructPix2Pix里面数据、CapsFusion、LAION-Asthetics、SA-1B和LAION-High-Resolution，文中还从其他付费渠道收集了数据（比如Unsplash、Midjourney-V5和DALL-E-3生成的图片等）。和其他多模态大模型不一样，物体的坐标不是以文本的形式或者ROI特征向量的方式送入LLM，而是直接在黑白图片上对应的坐标位置处绘制相应的框，得到的图片通过Visual Encoder提取特征。整个序列如下：<s>A photo of <p>a man</p><coor>image embedding of object localization image</coor>[IMG]image embedding of man[/IMG]sitting next to <p>a dog</p><coor>image embedding of object localization image</coor>[IMG]image embedding of dog[/IMG][IMG]image embedding of the whole image[/IMG]</s>
生成的一些示例图片如图Fig 12所示。
DeLVM
《Data-efficient Large Vision Models through Sequential Autoregression》是华为诺亚实验室的一个工作，是在LVM基础上提出的一个工作。
Data-efficient Large Vision Models through Sequential Autoregression(https://arxiv.org/abs/2402.04841) https://github.com/ggjy/DeLVM
模型结构和LVM一直，如图Fig 13 a 所示，这篇文章主要在两个方面做了改进探索，比如数据增强和蒸馏。数据增强主要是对存在长尾分布的数据中数量较少的这一类型的数据做重复的采样，也提高这部分数据的数量。
AIM
《Scalable Pre-training of Large Autoregressive Image Models》是苹果提出的一个工作，也是通过自回归的方式训练视觉基础模型，也发现了和LVM类似的和数据、模型参数量有关的Scaling效果，不过实现方式和LVM还是存在不小的差异。
Scalable Pre-training of Large Autoregressive Image Models(https://arxiv.org/abs/2401.08541) https://github.com/apple/ml-aim
模型预训练时候的结构如图Fig 14所示，输入图片划分为没有overlap且分辨率相同的patch ，并通过步长和kernel size大小相同的卷积层得到patch的特征，得到的图像特征序列通过Causal Transformer按照raster order预测下一个特征序列，得到特征向量通过一个MLP层得到对应的pixel。和LVM不一样，没有采用VQ-GAN里面的image tokenizer、detokenizer和codebook。
AIM在DFN数据集上进行了预训练，训练的损失函数为标准的预测下一个元素的自回归损失，即，在具体实现的时候则是损失，即输入的图片patch为，预测的图片patch为，损失和MAE一样，都是pixel级别的损失，即。文中也采用了和LVM类似的方式，用到了VQ-GAN类似的tokenizer，损失采用cross-entropy损失，但是效果不如pixel-wise的损失。
视觉基础模型按照自回归、causal attention的方式进行预训练，即，其中
但是下游的任务一般是bidirectional attention，为了弥补这种差异性，文中把图像特征序列的前几个序列看作是prefix，这部分序列在transformer里面按照bidirectional attention提取特征，且不计算loss，prefix的序列长度为，这部分序列的attentiom只大于0，即。如图Fig 15所示。
如图Fig 16，AIM观察到了和LVM一样的Scaling现象，即模型参数量越多，训练的时候损失下降越快，效果也更好。在图Fig 17中也可以看到，训练的数据量越大，在验证集上的损失下降就越低。
整体来说，是非常solid的一个工作，更多的细节可以refer原文。
推荐阅读
1、加入AIGCmagic社区知识星球
AIGCmagic社区知识星球不同于市面上其他的AI知识星球，AIGCmagic社区知识星球是国内首个以AIGC全栈技术与商业变现为主线的学习交流平台，涉及AI绘画、AI视频、ChatGPT等大模型、AI多模态、数字人、全行业AIGC赋能等50+应用方向，内部包含海量学习资源、专业问答、前沿资讯、内推招聘、AIGC模型、AIGC数据集和源码等。
那该如何加入星球呢？很简单，我们只需要扫下方的二维码即可。知识星球原价：299元/年，前200名限量活动价，终身优惠只需199元/年。大家只需要扫描下面的星球优惠卷即可享受初始居民的最大优惠：
2、Sora等AI视频大模型的核心原理，核心基础知识，网络结构，经典应用场景，从0到1搭建使用AI视频大模型，AI视频大模型性能测评，AI视频领域未来发展等全维度解析文章正式发布！
码字不易，欢迎大家多多点赞：
Sora等AI视频大模型文章地址：https://zhuanlan.zhihu.com/p/706722494
3、Stable Diffusion3和FLUX.1核心原理，核心基础知识，网络结构，从0到1搭建使用Stable Diffusion 3和FLUX.1进行AI绘画，从0到1上手使用Stable Diffusion 3和FLUX.1训练自己的AI绘画模型，Stable Diffusion 3和FLUX.1性能优化等全维度解析文章正式发布
码字不易，欢迎大家多多点赞：
Stable Diffusion 3和FLUX.1文章地址：https://zhuanlan.zhihu.com/p/684068402
4、Stable Diffusion XL核心基础知识，网络结构，从0到1搭建使用Stable Diffusion XL进行AI绘画，从0到1上手使用Stable Diffusion XL训练自己的AI绘画模型，AI绘画领域的未来发展等全维度解析文章正式发布
码字不易，欢迎大家多多点赞：
Stable Diffusion XL文章地址：https://zhuanlan.zhihu.com/p/643420260
5、Stable DiffusionV1-V2核心原理，核心基础知识，网络结构，经典应用场景，从0到1搭建使用Stable Diffusion进行AI绘画，从0到1上手使用Stable Diffusion训练自己的AI绘画模型，Stable Diffusion性能优化等全维度解析文章正式发布
码字不易，欢迎大家多多点赞：
Stable Diffusion文章地址：https://zhuanlan.zhihu.com/p/632809634
6、ControlNet核心基础知识，核心网络结构，从0到1使用ControlNet进行AI绘画，从0到1上手构建ControlNet高级应用等全维度解析文章正式发布
码字不易，欢迎大家多多点赞：
ControlNet文章地址：https://zhuanlan.zhihu.com/p/660924126
7、LoRA系列模型核心基础知识，从0到1使用LoRA模型进行AI绘画，从0到1上手训练自己的LoRA模型，LoRA变体模型介绍，优质LoRA推荐等全维度解析文章正式发布
码字不易，欢迎大家多多点赞：
LoRA文章地址：https://zhuanlan.zhihu.com/p/639229126
8、最全面的AIGC面经《手把手教你成为AIGC算法工程师，斩获AIGC算法offer！（2024年版）》文章正式发布
码字不易，欢迎大家多多点赞：
AIGC面经文章地址：https://zhuanlan.zhihu.com/p/651076114
9、10万字大汇总《“三年面试五年模拟”之算法工程师的求职面试“独孤九剑”秘籍》文章正式发布
码字不易，欢迎大家多多点赞：
算法工程师三年面试五年模拟文章地址：https://zhuanlan.zhihu.com/p/545374303
《三年面试五年模拟》github项目地址（希望大家能给个star）：https://github.com/WeThinkIn/Interview-for-Algorithm-Engineer
10、Stable Diffusion WebUI、ComfyUI、Fooocus三大主流AI绘画框架核心知识，从0到1搭建AI绘画框架，从0到1使用AI绘画框架的保姆级教程，深入浅出介绍AI绘画框架的各模块功能，深入浅出介绍AI绘画框架的高阶用法等全维度解析文章正式发布
码字不易，欢迎大家多多点赞：
AI绘画框架文章地址：https://zhuanlan.zhihu.com/p/673439761
11、GAN网络核心基础知识、深入浅出解析GAN在AIGC时代的应用等全维度解析文章正式发布！
码字不易，欢迎大家多多点赞：
GAN网络文章地址：https://zhuanlan.zhihu.com/p/663157306
12、其他
Rocky将YOLOv1-v7全系列大解析文章也制作成相应的pdf版本，大家可以关注公众号WeThinkIn，并在后台 【精华干货】菜单或者回复关键词“YOLO” 进行取用。
Rocky一直在运营技术交流群（WeThinkIn-技术交流群），这个群的初心主要聚焦于技术话题的讨论与学习，包括但不限于算法，开发，竞赛，科研以及工作求职等。群里有很多人工智能行业的大牛，欢迎大家入群一起学习交流～（请添加小助手微信Jarvis8866，拉你进群～）
