DDColor 可以为历史黑白老照片提供生动自然的着色。它甚至可以对动漫游戏中的风景进行着色/重新着色,将您的动画风景转变为逼真的现实生活风格!
相关链接
项目:github.com/piddnad/DDColor Demo:replicate.com/piddnad/ddcolor 论文:arxiv.org/abs/2212.11613
论文阅读
摘要
图像着色是一个具有挑战性的问题,由于 多模态不确定性和高病态性。直接 训练深度神经网络通常会导致错误 语义色彩和色彩丰富度低。虽然基于转换器的方法可以提供更好的结果,但它们经常依赖 在人工设计的先验上,泛化能力差,而且会引入色差效应。
为了解决这些问题,我们提出了一个端到端 图像着色用双解码器方法。我们的方法包括一个像素解码器和一个基于查询的颜色 译码器。前者恢复图像的空间分辨率 而后者则利用丰富的视觉特征进行细化 颜色查询,从而避免手工制作的先验
我们两个解码器一起工作,以建立之间的相关性 通过交叉注意进行颜色和多尺度语义表征,显著缓解了颜色出血效应。此外,还引入了一种简单而有效的色彩损失来增强色彩的丰富度。大量的实验表明,DDColor在数量上都比现有的最先进的作品具有优越的性能 和定性。
方法
视觉对比。新的着色方法DDColor,能够产生更自然的着色效果 与现有方法相比,在包含多个对象和不同背景的复杂场景中进行生动的着色。
方法概述
我们提出的模型DDColor以端到端的方式对灰度图像xL进行着色。我们首先使用骨干网络提取其特征,然后将其输入到像素解码器中以恢复空间结构 图像的。同时,颜色解码器对不同尺度的视觉特征进行颜色查询,学习语义感知的颜色表示
结构
彩色解码器块。以图像特征和颜色查询作为输入,颜色解码器块建立相关性 通过交叉注意、自我注意和前馈操作在语义和颜色表征之间进行。
简而言之,DDColor使用多尺度视觉特征来优化可学习的颜色标记(即颜色查询),并在自动图像着色上实现最先进的性能。
实验
DDColor可以为历史黑白老照片提供生动自然的着色。
它甚至可以对动画游戏中的风景进行着色/重新着色,将您的动画风景转变为现实生活中的风格!
总结
感谢你看到这里,也欢迎点击关注下方公众号或者扫描添加下方公众号小助手加入官方读者交流群,一个有趣有AI的AIGC公众号:关注AI、深度学习、计算机视觉、AIGC、Stable Diffusion、Sora等相关技术,欢迎一起交流学习💗~