テーマ研究深度学习:Basics
深度学习:Basics
从表示、优化与泛化开始,建立可以继续理解现代模型的基础。
parz12026年創刊継続改訂
今号の問い
当模型说自己“学会”了,它究竟改变了什么?
深度学习不是一组框架 API,而是一套关于表示、优化与泛化的共同语言。
議論の範囲表示 / 张量 / 优化 / 梯度 / 泛化
論考と議論
定义:学习意味着什么
先建立模型、数据、目标与误差之间的基本关系。
- 01什么是学习从函数、数据与目标出发,理解模型改变的究竟是什么。近日公開
机制:表示如何被计算与更新
从张量与计算图进入梯度驱动的优化过程。
- 02张量、计算图与自动微分张量如何承载表示,计算图如何组织变化与梯度。近日公開
- 03优化、损失函数与梯度下降训练目标如何被定义,参数又如何沿梯度逐步更新。近日公開
判断:模型何时真正学会
讨论训练结果如何越过样本,成为可迁移的能力。
- 04泛化、正则化与过拟合为什么训练集上的成功不等于模型获得了可靠能力。近日公開
この連載は、読書・執筆・改訂を通して成長し続けます。