图像复原领域长期面临一个难题:要么追求质量却耗时漫长,要么追求速度却牺牲细节。如何把一张老照片修复得又快又好?
月28日,中国科学院深圳先进技术研究院数字所董超研究员团队发布了一项名为HYPIR的图像复原大模型,不仅比现有的图像复原技术快数十倍,更在高清分辨率、文字保真、理解能力、用户控制灵活性等方面展现出了优异性能,为图像复原技术的实际应用提供了更高效的解决方案,更为文化传承与保护、影视修复等领域带来新的可能性。

HYPIR大模型修复图像效果展示。研究团队供图
传统方法中,基于预训练扩散模型的复原技术显著提升了图像复原效果,但存在计算复杂度高、推理速度慢、训练资源消耗大以及生成结果可控性不足等问题,成为了限制图像复原技术发展的瓶颈问题。
去年,董超团队提出了智能画质增强大模型SUPIR,将低质量的图像恢复到接近原始状态的高清图像,有效修复多种退化类型的图像。而此次图像大模型HYPIR作为升级版,舍弃了迭代式的扩散模型训练,改用单步的对抗生成模型训练方式,将原有的算法速度提升了数倍,同时采用更新的文生图基模型进一步提升算法效果,实现了8K级别的细节生成,在生成图像的稳定性和可控性方面远超SUPIR大模型。

HYPIR大模型在高分辨率图像超分复原方面的效果展示。研究团队供图
实验数据显示,在单张显卡(图像处理器)上,HYPIR仅需1.7秒即可完成一张1024x1024分辨率图像的复原。
在应用层面,研究人员介绍,HYPIR在图像高清分辨率、文字保真、理解能力、用户控制灵活性等方面均展现出了优异的性能。

1985年的深圳南头半岛(下图,摄影:陈宗浩)与4倍超分修复(上图)后的对比图
例如,在老照片修复方面,研究人员运用HYPIR修复了国内外经典电影、电视剧老照片,让模糊的影像重现清晰的细节,为文化记忆传承提供了技术支持。在高分辨率图像修复领域,HYPIR同样表现出色,因其兼具速度与效果,HYPIR成功攻克了传统方法在生成8k分辨率图像时往往面临速度慢或效果不佳的难题。
在文字保真方面,传统基于扩散模型的方法常导致复原出的文字模糊或扭曲,缺乏精确性,而HYPIR则能够使复原出的文字保持高保真度和清晰度,无论是简单的标识还是复杂的文档,HYPIR都能精准地还原其原始形态,使图像中的文字清晰可读。

董超研究员(左)介绍HYPIR大模型
值得一提的是,HYPIR还具备了突出的自然语言理解能力,能够精准捕捉和理解用户的输入指令,在图像复原过程中准确地反映用户的意图。
据介绍,一直以来,董超带领团队致力于底层视觉技术研究,在图像处理领域取得了多个重要突破,并出版了人工智能专著《底层视觉之美》。在他看来,做科研要坚持“三心”,即“初心、良心、爱心”,不仅要保持纯粹的好奇心,也要坚守实事求是的底线,更要秉持科技向善的责任。

索尔维会议的修复图对比。研究团队供图
董超说:“真正的科研成果要尊重事实真相,经得起反复推敲。”据介绍,目前HYPIR大模型与深圳市南山区档案馆合作对部分馆藏照片进行修复,后续该大模型还将进一步推进产业化,让社会公众亲身体验科技魅力。
文、图/广州日报新花城记者:王纳 通讯员:刁雯蕙
视频/广州日报新花城记者:王纳 通讯员:刁雯蕙
广州日报新花城编辑:童丹