扩散模型(Diffusion Models)被广泛应用于图像编辑任务中。现有的编辑方法通常通过在文本嵌入空间或得分(score)空间中构建某种编辑方向,来设计特征操作流程。然而,这类方法面临一个关键挑战:编辑强度设置不当会影响最终效果——过强会破坏图像的一致性,过弱则无法实现预期编辑。此外,每张源图像可能需要不同的编辑强度,而通过反复试验寻找合适强度代价高昂。

为解决这一问题,我们提出了 Concept Lancet(CoLan),一个零样本、即插即用的扩散式图像编辑框架,能够以原理性方式对表示空间进行操作。在推理阶段,我们将源图像在潜在空间(包括文本嵌入或扩散得分空间)中分解为一组稀疏线性组合,这些组合来自预先收集的视觉概念表示。这一分解机制使我们能够准确估计图像中概念的存在程度,从而指导编辑方向。

根据具体的编辑任务(如替换、添加或移除某一概念),我们执行一个定制化的概念移植(concept transplant)过程,以施加相应的编辑操作。为了更充分地建模概念空间,我们构建了一个概念表示数据集 CoLan-150K,其中包含丰富的视觉术语与短语的描述与场景信息,用于支持潜在表示字典的构建。 在多个基于扩散模型的图像编辑任务中,实验结果表明,使用 CoLan 进行增强的方法在编辑有效性与图像一致性保留方面均达到了当前最优性能。

更多项目信息请见:https://peterljq.github.io/project/colan

成为VIP会员查看完整内容
4

相关内容

【CVPR2025】CoLLM:面向组合图像检索的大语言模型
【ACMMM2024】用于多媒体推荐的模态平衡学习"
专知会员服务
12+阅读 · 2024年8月14日
【CVPR2024】用于视觉-语言导航的体积环境表示
专知会员服务
18+阅读 · 2024年3月24日
【NAACL2022】自然语言处理的对比数据与学习
专知会员服务
46+阅读 · 2022年7月10日
【CVPR2022】多视图聚合的大规模三维语义分割
专知会员服务
21+阅读 · 2022年4月20日
【AAAI2022】基于对比学习的预训练语言模型剪枝压缩
专知会员服务
28+阅读 · 2022年1月24日
【ECCV2020】EfficientFCN:语义分割中的整体引导解码器
专知会员服务
17+阅读 · 2020年8月23日
【ICML2021】因果匹配领域泛化
专知
12+阅读 · 2021年8月12日
【CVPR2021】跨模态检索的概率嵌入
专知
17+阅读 · 2021年3月2日
【NeurIPS2019】图变换网络:Graph Transformer Network
国家自然科学基金
2+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2014年12月31日
A Survey of Large Language Models
Arxiv
448+阅读 · 2023年3月31日
VIP会员
相关VIP内容
【CVPR2025】CoLLM:面向组合图像检索的大语言模型
【ACMMM2024】用于多媒体推荐的模态平衡学习"
专知会员服务
12+阅读 · 2024年8月14日
【CVPR2024】用于视觉-语言导航的体积环境表示
专知会员服务
18+阅读 · 2024年3月24日
【NAACL2022】自然语言处理的对比数据与学习
专知会员服务
46+阅读 · 2022年7月10日
【CVPR2022】多视图聚合的大规模三维语义分割
专知会员服务
21+阅读 · 2022年4月20日
【AAAI2022】基于对比学习的预训练语言模型剪枝压缩
专知会员服务
28+阅读 · 2022年1月24日
【ECCV2020】EfficientFCN:语义分割中的整体引导解码器
专知会员服务
17+阅读 · 2020年8月23日
相关基金
国家自然科学基金
2+阅读 · 2016年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
3+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
10+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员