动手学深度学习：优化与深度学习的关系

本节将讨论优化与深度学习的关系，以及优化在深度学习中的挑战。在一个深度学习问题中，我们通常会预先定义一个损失函数。有了损失函数以后，我们就可以使用优化算法试图将其最小化。在优化中，这样的损失函数通常被称作优化问题的目标函数

（objective function）。依据惯例，优化算法通常只考虑最小化目标函数。其实，任何最大化问题都可以很容易地转化为最小化问题，只需令目标函数的相反数为新的目标函数即可。

7.1.1　优化与深度学习的关系

虽然优化为深度学习提供了最小化损失函数的方法，但本质上，优化与深度学习的目标是有区别的。在3.11节中，我们区分了训练误差和泛化误差。由于优化算法的目标函数通常是一个基于训练数据集的损失函数，优化的目标在于降低训练误差。而深度学习的目标在于降低泛化误差。为了降低泛化误差，除了使用优化算法降低训练误差以外，还需要注意应对过拟合。

本章中，我们只关注优化算法在最小化目标函数上的表现，而不关注模型的泛化误差。

7.1.2　优化在深度学习中的挑战

我们在3.1节中对优化问题的解析解和数值解做了区分。深度学习中绝大多数目标函数都很复杂。因此，很多优化问题并不存在解析解，而需要使用基于数值方法的优化算法找到近似解，即数值解。本书中讨论的优化算法都是这类基于数值方法的算法。为了求得最小化目标函数的数值解，我们将通过优化算法有限次迭代模型参数来尽可能降低损失函数的值。

优化在深度学习中有很多挑战。下面描述了其中的两个挑战，即局部最小值和鞍点。为了更好地描述问题，我们先导入实验需要的包或模块。

In [1]: %matplotlib inline
        import d2lzh as d2l
        from mpl_toolkits import mplot3d
        import numpy as np

1．局部最小值

对于目标函数，如果在x

上的值比在x

邻近的其他点的值更小，那么可能是一个局部最小值

（local minimum）。如果在x

上的值是目标函数在整个定义域上的最小值，那么是全局最小值

（global minimum）。

举个例子，给定函数


我们可以大致找出该函数的局部最小值和全局最小值的位置。需要注意的是，图中箭头所指示的只是大致位置。

In [2]: def f(x):
            return x * np.cos(np.pi * x)

        d2l.set_f igsize((4.5, 2.5))
        x = np.arange(-1.0, 2.0, 0.1)
        f ig, = d2l.plt.plot(x, f(x))　　#　逗号表示只取返回列表中的第一个元素
        f ig.axes.annotate('local minimum', xy=(-0.3, -0.25), xytext=(-0.77, -1.0), 
                          arrowprops=dict(arrowstyle='->'))
        f ig.axes.annotate('global minimum', xy=(1.1, -0.95), xytext=(0.6, 0.8), 
                          arrowprops=dict(arrowstyle='->'))
        d2l.plt.xlabel('x') 
        d2l.plt.ylabel('f(x)');

深度学习模型的目标函数可能有若干局部最优值。当一个优化问题的数值解在局部最优解附近时，由于目标函数有关解的梯度接近或变成0，最终迭代求得的数值解可能只令目标函数局部最小化而非全局最小化。

2．鞍点

刚刚我们提到，梯度接近或变成0可能是由于当前解在局部最优解附近造成的。事实上，另一种可能性是当前解在鞍点

（saddle point）附近。

举个例子，给定函数


我们可以找出该函数的鞍点位置。

In [3]: x = np.arange(-2.0, 2.0, 0.1) 
        f ig, = d2l.plt.plot(x, x**3)
        f ig.axes.annotate('saddle point', xy=(0, -0.2), xytext=(-0.52, -5.0), 
                          arrowprops=dict(arrowstyle='->'))
        d2l.plt.xlabel('x') 
        d2l.plt.ylabel('f(x)');

再举个定义在二维空间的函数的例子，例如：


我们可以找出该函数的鞍点位置。也许你已经发现了，该函数看起来像一个马鞍，而鞍点恰好是马鞍上可坐区域的中心。

In [4]: x, y = np.mgrid[-1: 1: 31j, -1: 1: 31j] 
        z = x**2 - y**2

        ax = d2l.plt.f igure().add_subplot(111, projection='3d') 
        ax.plot_wireframe(x, y, z, **{'rstride': 2, 'cstride': 2}) 
        ax.plot([0], [0], [0], 'rx')
        ticks = [-1, 0, 1] 
        d2l.plt.xticks(ticks)
        d2l.plt.yticks(ticks) 
        ax.set_zticks(ticks) 
        d2l.plt.xlabel('x')
        d2l.plt.ylabel('y');

在图的鞍点位置，目标函数在x

轴方向上是局部最小值，但在y

轴方向上是局部最大值。

假设一个函数的输入为k

维向量，输出为标量，那么它的海森矩阵

（Hessian matrix）有k

个特征值（参见附录A）。该函数在梯度为0的位置上可能是局部最小值、局部最大值或者鞍点：

• 当函数的海森矩阵在梯度为0的位置上的特征值全为正时，该函数得到局部最小值；
• 当函数的海森矩阵在梯度为0的位置上的特征值全为负时，该函数得到局部最大值；
• 当函数的海森矩阵在梯度为0的位置上的特征值有正有负时，该函数得到鞍点。

随机矩阵理论告诉我们，对于一个大的高斯随机矩阵来说，任一特征值是正或者是负的概率都是0.5^[59]

。那么，以上第一种情况的概率为0.5^k

。由于深度学习模型参数通常都是高维的（k

很大），目标函数的鞍点通常比局部最小值更常见。

在深度学习中，虽然找到目标函数的全局最优解很难，但这并非必要。我们将在本章接下来的几节中逐一介绍深度学习中常用的优化算法，它们在很多实际问题中都能够训练出十分有效的深度学习模型。

小结

• 由于优化算法的目标函数通常是一个基于训练数据集的损失函数，优化的目标在于降低训练误差。

• 由于深度学习模型参数通常都是高维的，目标函数的鞍点通常比局部最小值更常见。

练习

对于深度学习中的优化问题，你还能想到哪些其他的挑战？

本文摘自《动手学深度学习》

动手学深度学习

作者：阿斯顿·张（Aston Zhang）, 李沐（Mu Li）, [美] 扎卡里·C. 立顿（Zachary C. Lipton）, [德] 亚历山大·J. 斯莫拉（Alexander J. Smola）

• 人工智能机器学习深度学习领域重磅教程图书
• 亚马逊科学家作品
• 动手学深度学习的全新模式，原理与实战紧密结合

目前市面上有关深度学习介绍的书籍大多可分两类，一类侧重方法介绍，另一类侧重实践和深度学习工具的介绍。本书同时覆盖方法和实践。本书不仅从数学的角度阐述深度学习的技术与应用，还包含可运行的代码，为读者展示如何在实际中解决问题。为了给读者提供一种交互式的学习体验，本书不但提供免费的教学视频和讨论区，而且提供可运行的Jupyter记事本文件，充分利用Jupyter记事本能将文字、代码、公式和图像统一起来的优势。这样不仅直接将数学公式对应成实际代码，而且可以修改代码、观察结果并及时获取经验，从而带给读者全新的、交互式的深度学习的学习体验。