深度生成模型

深度生成模型学习生成与训练集相似的新数据，捕捉图像、音频和文本等复杂数据的分布。

Definition

深度生成模型是一种神经网络，它表示数据上的概率分布，并能从中生成新的样本，其学习方式根据模型家族的不同，可以是最大化似然、对抗性训练，或是学习反转损坏过程。

Scope

本主题涵盖了对数据分布进行建模或采样的神经网络模型：将编码器和解码器与潜在先验配对的变分自编码器、使生成器与判别器对抗的生成对抗网络、一次预测一个数据元素的自回归模型，以及学习逆转噪声过程的扩散模型。它探讨了这些模型的训练和评估方式。

Core questions

• 神经网络如何学习生成逼真的新数据？
• 基于似然、对抗性和扩散的方法有何区别？
• 潜在变量如何用于控制和构建生成过程？
• 如何评估生成样本的质量？

Key theories

潜在变量生成

变分自编码器学习一个将数据映射到潜在分布的编码器和一个重建数据的解码器，通过从先验中抽取潜在编码来生成新数据。

对抗性训练

生成对抗网络训练一个生成器来欺骗试图区分真实数据和生成数据的判别器，这种博弈的平衡会产生逼真的样本。

自回归和扩散建模

自回归模型将分布分解为按顺序预测的条件概率的乘积，而扩散模型学习逆转一个逐渐加噪的过程，两者都能实现高质量的生成。

Clinical relevance

深度生成模型驱动着图像和音频合成、数据增强、药物和材料设计，以及生成文本和图像的生成式人工智能系统；它们创建令人信服的合成内容的能力也引发了人们对滥用、真实性和评估的重大担忧。

History

神经网络的生成建模从受限玻尔兹曼机和深度信念网络发展到变分自编码器，并在2014年发展到生成对抗网络。自回归模型推动了文本和音频生成，而扩散模型后来在图像合成质量方面取得了领先地位，使生成建模成为现代人工智能的核心主题。

Key figures

• Ian Goodfellow
• Diederik Kingma
• Yoshua Bengio

Seminal works

• goodfellow2016
• lecun2015
• murphy2012

Frequently asked questions

什么是生成对抗网络？

它是一对协同训练的网络：一个生成器创建样本，一个判别器试图区分真实数据和生成数据。生成器通过学习欺骗判别器来改进，在理想的平衡状态下，它能产生逼真的样本。

扩散模型如何生成数据？

扩散模型学习逆转一个逐渐向数据添加噪声的过程。从纯噪声开始，模型反复逐步去除少量噪声，直到出现一个干净的样本，这已被证明对于高质量图像生成非常有效。