布朗运动（布朗运动实验视频）
梯度下降算法是机器学习中最流行的优化技术之一。它有三种类型：批量梯度下降（GD）、随机梯度下降（SGD）和小批量梯度下降（在每次迭代中用于计算损失函数梯度的数据量不同）。
本文的目标是描述基于朗格文动力学（LD）的全局优化器的研究进展，LD是一种分子运动的建模方法，它起源于20世纪初阿尔伯特·爱因斯坦和保罗·朗之万关于统计力学的著作。
我将从理论物理学的角度提供一个优雅的解释，为什么梯度下降的变种是有效的全局优化器。
奇迹的一年没有迹象表明一场革命即将发生。1904年，如果阿尔伯特·爱因斯坦放弃了物理学，他的科学家同行们可能甚至都不会注意到。幸运的是，这并没有发生。1905年，这位年轻的专利职员发表了四篇革命性的论文。
阿尔伯特·爱因斯坦
流体中的随机运动在其中一篇论文中，爱因斯坦推导出了所谓的布朗运动模型，即液体中悬浮粒子的随机运动，由与更小、快速运动的分子（例如在水中运动的花粉颗粒）的碰撞引起。
布朗运动：尘埃粒子与气体分子的碰撞
在这篇论文中，他证实了原子和分子的存在，由此诞生了物理学的一个新的分支——分子动力学，创造了应用数学的一个崭新领域——随机微积分。
朗之万动力学1908年，在爱因斯坦发表他的里程碑式论文三年后，法国物理学家保罗·朗之万发表了另一篇开创性的文章，他在文中概括了爱因斯坦的理论，并发展了一个描述布朗运动的新微分方程，即今天的朗之万方程（LE）：
其中x是运动粒子的位置，m是它的质量，R表示一个（随机的）力产生与较小的，快速移动的流体分子的碰撞（见上面的动画），F表示任何其他外力。随机力R是一个delta相关的平稳高斯过程，其均值和方差如下：
R是一个正常的过程。
术语“delta相关”意味着两个不同时间的力是零相关的。LE是第一个描述不平衡热力学的数学方程。
法国物理学家保罗·朗之万
如果粒子的质量足够小，我们可以把左边设为零。此外，我们可以用某个势能的导数来表示一个（保守）力。我们得到：
小质量的朗之万方程
写作：
其中δt是一个小时间间隔，并有移动项，我们得到了小质量粒子的离散朗之万方程：
小惯性粒子的离散朗之万方程。
用这种方式表示，朗之万方程描述了经历布朗运动的粒子的增量位移。
布朗运动的Python代码为了模拟二维离散布朗过程，采用了两种一维过程。步骤如下：
首先，选择时间步数“steps”。
坐标x和y是随机跳跃的累积和（函数np.cumsum()用于计算它们）。
中间点X和Y通过使用np.interp()插值计算。
然后使用plot()函数绘制布朗运动。
代码是：
import numpy as np
import matplotlib.pyplot as plt
%matplotlib inlinesteps = 5000
random.seed(42)
x,y = np.cumsum(np.random.randn(steps)), np.cumsum(np.random.randn(steps))points = 10
ip = lambda x, steps, points: np.interp(np.arange(steps*points),
np.arange(steps)*points,
x)
X, Y = ip(x, steps, points), ip(y, steps, points)fig, ax = plt.subplots(1, 1, figsize=(10, 10))
ax.set_title('Brownian Motion')
ax.set_xlabel('x')
ax.set_ylabel('y')
ax.plot(X, Y, color='blue',
marker='o', markersize=1)
布朗运动图解
朗之万动力学与全局极小值朗之万动力学的一个重要性质是随机过程x(t)（其中x(t)服从上面给出的Langevin方程）的扩散分布p(x)收敛于平稳分布，即普遍存在的波尔兹曼分布（BD）。
波尔兹曼分布
它集中在势能E(x)的全局最小值附近（从它的函数形式，我们可以很容易地看到BD峰在势能E(x)的全局最小值上）。更准确地说，如果温度按照离散步骤缓慢降至零:
那么p(x)在n的大值时收敛于玻尔兹曼分布（x收敛于E(x)的全局最小值）。朗之万方程的时变温度通常被解释为描述亚稳态物理状态的衰减到系统的基态（这是能量的全局最小值）。因此，我们可以使用朗之万动力学来设计算法，使其成为潜在非凸函数的全局最小化。
这一原理是模拟退火技术的基础，用于获得近似的全局最优函数。
模拟退火在寻找极大值中的应用。
梯度下降算法现在我将转到机器学习优化算法。
梯度下降是一个简单的迭代优化算法最小化（或最大化）函数。在机器学习的背景下，这些函数是损失函数。为具体起见，考虑一个多元损失函数L(w)，定义了一些不动点p周围的所有点w。GD算法基于一个简单的性质，即从任何点p开始，函数L(w)在其负梯度方向上衰减最快：
损失函数的负梯度。
人们首先猜测最小值的初始值，然后计算序列：
遵循迭代过程：
梯度下降法递归。
其中，γ为学习率，允许在每次迭代n时改变学习率。如果损失函数L及其梯度具有一定的性质，按照一定的协议选择学习率变化，保证局部收敛（只有当L是凸函数时才保证收敛到全局最小值，因为对于凸函数，任何局部最小值也是全局最小值）。
随机梯度下降（SGD）和小批量梯度下降基本的GD算法在每次迭代时都扫描完整的数据集，而SGD和小批量GD只使用训练数据的一个子集。SGD在每次迭代中使用单个训练数据样本更新梯度，即在扫描训练数据时，对每个训练示例执行上述w的更新。小批量GD使用小批量的训练示例执行参数更新。
让我们用数学的方式来解释。用于一般训练集：
n个样本的训练集。
损失函数的一般形式为：
一般损失函数。
在小批梯度下降的情况下，总和仅在批内的训练示例。特别是SGD只使用一个样本。与普通的GD相比，这些过程有两个主要优势：它们速度更快，并且可以处理更大的数据集。
定义G和g如下所示，在这种情况下我们有：
在下面的动画中，SGD的收敛和其他方法一起展示了（这些其他方法，本文没有提到，是SGD的最新改进）。
机器学习与物理，作为朗之万过程的梯度下降下一个步骤对于论证是至关重要的。为了让读者理解主要思想，我省略了一些较为严格的细节。
我们可以把小批量梯度写成全梯度和正态分布的η之间的和：
现在将这个表达式代入GD迭代表达式中，我们得到：
小批量梯度下降迭代步骤
一个优雅的联系将小批量梯度下降迭代的表达式与朗之万方程进行比较，我们可以立即注意到它们的相似性。更准确地说，它们通过以下方式变得相同：
用γ代入δt，我们发现：
因此，SGD或小批量梯度下降算法形式上类似于朗之万过程，这就解释了为什么如果学习率按照前面提到的协议变化，它们有非常高的概率选择全局最小值。
这个结果并不新鲜。事实上，有许多证据表明，在通常的梯度下降递归中添加一个噪声项会使算法收敛到全局最小值。
结论在这篇文章中，我展示了将随机或小批量梯度下降看作是朗之万随机过程，并通过学习率包括额外的随机化级别，我们可以理解为什么这些算法可以作为全局优化器工作得如此好。这是一个很好的结果，它表明从多个角度检查一个问题通常是非常有用的。