选择优化器

总结： 从针对手头问题类型的最常用的优化器开始。

• 没有一个优化器是适用于所有类型的机器学习问题和模型架构的‘最佳’优化器。即使只是 比较优化器的性能 (opens new window)也是一项艰巨的任务。

• 我们建议坚持使用成熟、流行的优化器，尤其是在开始新项目时。

  • 理想情况下，选择用于同类问题的最常用优化器。

• 做好关注选择的优化器的 *所有* 超参数的准备。

  • 具有更多超参数的优化器可能需要更多的调优工作才能找到最佳配置。

  • 当我们试图找到各种其他超参数（例如架构超参数）的最佳值时，将优化器超参数视为冗余参数是有意义的，这在项目的初始阶段尤其重要。

  • 在项目的初始阶段，从更简单的优化器开始会更可取（例如，具有固定动量的 SGD 或具有固定 $ϵ$、${\beta }_1$ 和 ${\beta }_2$ 的 Adam ) ，之后可以切换到更通用的优化器。

• 常用且较为完善的优化器包括（但不限于）：

  • SGD with momentum（Nesterov 变体）
  • Adam and NAdam，它们比具有动量的 SGD 更通用。请注意，Adam 有 4 个可调超参数，他们都很重要 (opens new window)！

Adam 的超参数应该如何调整？

• 正如之前讨论的那样, 对搜索空间以及应该从搜索空间中采样数量做出概括性陈述是非常困难的。 请注意，并非 Adam 中的所有超参数都一样重要。 以下经验法则对应于研究中试验次数的不同“预算”。
  • 如果在一次研究中，训练次数试验次数小于10，那么只需要对基本学习率进行调整。
  • 如果试验次数在10到25次之间， 那么需要对学习率以及 ${\beta }_1$ 进行调整。
  • 如果试验次数在25次以上，那么需要对学习率、 ${\beta }_1$ 以及 $ϵ$ 进行调整。
  • 如果可以运行的试验次数大于25次，还需要额外调整${\beta }_2$。

优化算法的更新规则是什么？

Stochastic gradient descent (SGD)

$${\theta }_{t+1}={\theta }_t-{\eta }_t\mathrm{\nabla }\mathcal{l}({\theta }_t)$$

Momentum

$$v_0=0$$$$v_{t+1}=\gamma v_t+\mathrm{\nabla }\mathcal{l}({\theta }_t)$$$${\theta }_{t+1}={\theta }_t-{\eta }_t{v}_{t+1}$$

Nesterov

$$v_0=0$$$$v_{t+1}=\gamma v_t+\mathrm{\nabla }\mathcal{l}({\theta }_t)$$$${\theta }_{t+1}={\theta }_t-{\eta }_t(\gamma v_{t+1}+\mathrm{\nabla }\mathcal{l}({\theta }_t)$$

RMSProp

$$v_0=1\text{,}{m}_0=0$$$$v_{t+1}=\rho v_t+(1-\rho )\mathrm{\nabla }\mathcal{l}({\theta }_t{)}^2$$$$m_{t+1}=\gamma m_t+\frac{{\eta }_t}{\sqrt{v_{t+1}+ϵ}}\mathrm{\nabla }\mathcal{l}({\theta }_t)$$$${\theta }_{t+1}={\theta }_t-m_{t+1}$$

ADAM

$$m_0=0\text{,}{v}_0=0$$$$m_{t+1}={\beta }_1{m}_t+(1-{\beta }_1)\mathrm{\nabla }\mathcal{l}({\theta }_t)$$$$v_{t+1}={\beta }_2{v}_t+(1-{\beta }_2)\mathrm{\nabla }\mathcal{l}({\theta }_t{)}^2$$$$b_{t+1}=\frac{\sqrt{1-{\beta }_2^{t+1}}}{1-{\beta }_1^{t+1}}$$$${\theta }_{t+1}={\theta }_t-{\alpha }_t\frac{m_{t+1}}{\sqrt{v_{t+1}}+ϵ}{b}_{t+1}$$

NADAM

$$m_0=0\text{,}{v}_0=0$$$$m_{t+1}={\beta }_1{m}_t+(1-{\beta }_1)\mathrm{\nabla }\mathcal{l}({\theta }_t)$$$$v_{t+1}={\beta }_2{v}_t+(1-{\beta }_2)\mathrm{\nabla }\mathcal{l}({\theta }_t{)}^2$$$$b_{t+1}=\frac{\sqrt{1-{\beta }_2^{t+1}}}{1-{\beta }_1^{t+1}}$$$${\theta }_{t+1}={\theta }_t-{\alpha }_t\frac{{\beta }_1{m}_{t+1}+(1-{\beta }_1)\mathrm{\nabla }\mathcal{l}({\theta }_t)}{\sqrt{v_{t+1}}+ϵ}{b}_{t+1}$$