テーマ研究深度学习:Basics

深度学习:Basics

从表示、优化与泛化开始,建立可以继续理解现代模型的基础。

parz12026年創刊継続改訂

今号の問い

当模型说自己“学会”了,它究竟改变了什么?

深度学习不是一组框架 API,而是一套关于表示、优化与泛化的共同语言。

議論の範囲表示 / 张量 / 优化 / 梯度 / 泛化

論考と議論

定义:学习意味着什么

先建立模型、数据、目标与误差之间的基本关系。

  1. 01什么是学习从函数、数据与目标出发,理解模型改变的究竟是什么。近日公開

机制:表示如何被计算与更新

从张量与计算图进入梯度驱动的优化过程。

  1. 02张量、计算图与自动微分张量如何承载表示,计算图如何组织变化与梯度。近日公開
  2. 03优化、损失函数与梯度下降训练目标如何被定义,参数又如何沿梯度逐步更新。近日公開

判断:模型何时真正学会

讨论训练结果如何越过样本,成为可迁移的能力。

  1. 04泛化、正则化与过拟合为什么训练集上的成功不等于模型获得了可靠能力。近日公開

この連載は、読書・執筆・改訂を通して成長し続けます。