SGD Learns One-Layer Networks in WGANs
SGD Learns One-Layer Networks in WGANs
复制标题
DOI：
--
复制
发表时间：
2019-10
期刊：
影响因子：
--
通讯作者：
Qi Lei;J. Lee;A. Dimakis;C. Daskalakis
中科院分区：
文献类型：
--
作者：
Qi Lei;J. Lee;A. Dimakis;C. Daskalakis
生成对抗网络（GAN）是一种广泛用于学习生成模型的框架。Wasserstein GANs（WGANs）是GANs最成功的变体之一，需要解决一个全局最优的最小最大优化问题，但在实践中使用随机梯度下降-上升成功训练。在本文中，我们证明了，当发电机是一个单层网络，随机梯度下降上升收敛到一个全局解多项式时间和样本复杂性。
Generative adversarial networks (GANs) are a widely used framework for learning generative models. Wasserstein GANs (WGANs), one of the most successful variants of GANs, require solving a minmax optimization problem to global optimality, but are in practice successfully trained using stochastic gradient descent-ascent. In this paper, we show that, when the generator is a one-layer network, stochastic gradient descent-ascent converges to a global solution with polynomial time and sample complexity.