AIGC 席卷 AI 顶会:ICLR 2023 论文得分出炉,扩散模型研究暴增

11 月 5 日,人工智能顶级会议 ICLR 2023 的评审结果正式发布。

除了讨论提交论文的分数、录用可能性、如何 rebuttal 之外,Diffusion Model(扩散模型)成了今年 ICLR 的热门关键词之一,以扩散模型为研究主题的投稿论文数量出现暴涨,所涵盖的具体方向也十分广泛。

ICLR 2023 的论文提交截止日期是今年的 9 月 28 日,距离文本生成图像模型 DALL·E 2 的问世不过 5 个月,Stable Diffusion 的发布也只是在 8 月份。扩散模型这一波研究热潮,实在是“扩散”得飞快,AIGC 的兴起正当时。

1
ICLR 2023 审稿概况

ICLR 全称是 International Conference on Learning Representations(国际学习表征会议),由深度学习三巨头其中的两位 Yoshua Bengio 和 Yann LeCun 牵头创办于2013年,在人工智能领域地位举足轻重。ICLR 2023 将于 2023 年 5 月 1 日至 5 月 5 日在卢旺达基加利举行。

本届会议共计有 6300 份初始摘要投稿和 4922 份经过评审的投稿,其中经过评审的投稿比去年增加了 32.2%。在 4922 份投稿中,有 99%(4883)得到了至少 3 份评审,一共有超过 18500 份评审。

AIGC 席卷 AI 顶会:ICLR 2023 论文得分出炉,扩散模型研究暴增
图注:历年ICLR接收投稿数量

ICLR 的审稿分数和意见全部在 OpenReview 平台上公开,一些网友已经爬取了平台上本轮审稿的论文得分数据,做了相关排名统计。

论文评分方面,今年的论文平均得分为 4.95。最终的论文录用结果尚未公布,参照上一年 32.3% 的录用率,今年共有 1556 篇左右的论文有希望被录用,最低均分线在 5.50 分。

AIGC 席卷 AI 顶会:ICLR 2023 论文得分出炉,扩散模型研究暴增

图注:ICLR 2023 论文评分分布

2
扩散模型成大热门

毫无疑问,扩散模型在今年是一个大热门,从 ICLR 2023 的论文投稿情况就能看出,这波研究热潮已经掀起。

从提交论文的主题来看,最热门的方向与往年相差不大,强化学习、深度学习、表征学习、图神经网络等仍旧是热点。而其中尤其引人注目的,是排在第 14 名的 Diffusion model。

AIGC 席卷 AI 顶会:ICLR 2023 论文得分出炉,扩散模型研究暴增
图注:2022 年和 2023 年 ICLR 论文投稿关键词频率比较

从下图显示的频率排名变化幅度最大的前 10 个论文关键词可以看到,去年的 Diffusion model 还排在第 173 名。

AIGC 席卷 AI 顶会:ICLR 2023 论文得分出炉,扩散模型研究暴增

论文题目中的关键词频率也印证了扩散模型的研究热度有多高:

AIGC 席卷 AI 顶会:ICLR 2023 论文得分出炉,扩散模型研究暴增

上图是论文标题关键词频率排名变化幅度最大的前 10 个关键词,diffusion 位列第 2,从去年的第 132 名大幅暴增到第 25 名。

甚至有网友开玩笑,不如就把 ICLR 2023 的名字改为“Diffusion Conference 2023”吧……

AIGC 席卷 AI 顶会:ICLR 2023 论文得分出炉,扩散模型研究暴增

据粗略统计,ICLR 2023 的论文投稿中,有 100 多篇论文以扩散模型为研究主题,在 233 篇得分为 7分(含)及以上的论文中,共有 13 篇涉及扩散模型。

这些工作所涵盖的具体方向也十分广,如高效采样、与其他生成模型结合、在CV/NLP领域的应用、在多模态领域的应用、与强化学习结合、分子图建模、扩散模型理论与理解、扩散模型泛化与拓展、扩散模型迁移、特殊结构数据的建模、鲁棒性与稳定性、扩散模型的隐私保护,以及其他方向。

研究提出的生成模型涉及多个模态,模型本身的名字也是五花八门,过去几个月令人惊艳的许多生成模型都在其中,如:

来自谷歌的文本生成 3D 模型 DreamFusion(被称为“3D 版 DALL·E”),论文还得到了 8.0 的高分,总排名第 13。

AIGC 席卷 AI 顶会:ICLR 2023 论文得分出炉,扩散模型研究暴增

另外还有谷歌发布的检索增强的文本生成图像模型 Re-Imagen、文本生成视频模型 Phenaki,Meta 的文本生成视频模型 Make-A-Video等等。

扩散模型所引发的这一波 AIGC 热潮是席卷式的。扩散模型第一次被提出是在 2015 年(DPM,Diffusion Probabilistic Models),直到2020年,UC 伯克利的Pieter Abbeel 等人提出去噪扩散概率模型(Denoising Diffusion Probabilistic Model, DDPM),在图像生成方面击败了 GAN,向世界展示了扩散模型的威力。

AIGC 席卷 AI 顶会:ICLR 2023 论文得分出炉,扩散模型研究暴增

论文地址:https://arxiv.org/pdf/2006.11239.pdf

而扩散模型真正开始成为研究热门,今年 4 月 OpenAI 发布的文本生成图像模型 DALL·E 2 居功至伟,之后又有谷歌推出 Imagen,直接对标 DALL·E 2,文本生成图像领域从此开始卷了起来。

今年 8 月,初创公司 Stability.AI 发布深度学习文生图模型 Stable Diffusion,开源后更是一石激起千层浪,后续基于扩散模型的文本生成图像模型可以说是越来越卷,并很快扩展到文本生成视频、文本生成 3D、文本生成音频等等。

如今,扩散模型已经当之无愧成为深度生成模型中新的 SOTA,其所引发的 AIGC 热潮已经势不可挡。

所以,想要进入 AIGC 这一赛道的可以早点行动了。

本站部分文章来自互联网,文章版权归原作者所有。如有疑问请联系QQ:3164780!

(0)
上一篇 2022-11-21 20:02
下一篇 2022-11-22 14:22

相关推荐