| 第一部分 入门篇 |
|
|
|
| 第1章 绪论 |
|
|
chap1 |
| 第2章 机器学习概述 |
Hung-yi Lee: Introduction2017, Introduction2019, BiasAndVar, Regression, Gradient Descent
白板推导系列：开篇, 线性回归 |
|
|
| 第3章 线性模型 |
Hung-yi Lee: Probabilistic Generative Model, Logistic Regression、SVM
白板推导系列：线性分类, SVM, 核方法 |
|
|
| 第二部分 基础模型 |
|
|
|
| 第4章 前馈神经网络 |
Hung-yi Lee: Introduction of Deep Learning, Backpropagation, Computational Graph, “Hello world” of deep learning
白板推导系列：前馈神经网络
其他：Backprop by Google |
|
|
| 第5章 卷积神经网络 |
Hung-yi Lee: Convolutional Neural Network, Why Deep, Why Deep Structure? |
|
|
| 第6章 循环神经网络 |
Hung-yi Lee: Recurrent Neural Network, Recursive Network |
|
|
| 第7章 网络优化与正则化 |
Hung-yi Lee: Tips for deep learning, Optimization, Special Training Technology |
|
|
| 第8章 注意力机制与外部记忆 |
Hung-yi Lee: Attention-based Model, Attention is all you need, Pointer Network |
|
|
| 第9章 无监督学习 |
Hung-yi Lee: Unsupervised Learning, More Auto-encoder
白板推导系列：降维, 谱聚类 |
|
|
| 第10章 模型独立的学习方法 |
Hung-yi Lee: Ensemble, Semi-supervised Learning, Transfer Learning, Life-long learning, Meta Learning
其他：王晋东GitHub |
|
|
| 第三部分 进阶模型 |
|
|
|
| 第11章 概率图模型 |
Hung-yi Lee: Graphical Model, Gibbs Sampling, Markov Logic Network, Structured Learning, SVM^struct, Learning with Hidden Information
白板推导系列：指数族分布, 概率图模型, EM, EM2, GMM, HMM, CRF, VI, VI2, MCMC |
|
|
| 第12章 深度信念网络 |
Hung-yi Lee: 受限玻尔兹曼机、深度信念网络参考资料
白板推导系列：受限玻尔兹曼机 |
|
|
| 第13章 深度生成模型 |
Hung-yi Lee: Deep Generative Model, Generative Adversarial Network |
|
|
| 第14章 深度强化学习 |
Hung-yi Lee: Deep Reinforcement Learning, Deep Reinforcement Learning2 |
|
|
| 第15章 序列生成模型 |
Hung-yi Lee: Word Embedding, Sequence-to-sequence and Attention, Transformer, BERT, Seq-to-seq Learning by CNN
其他：The Annotated Transformer, The Illustrated Transformer |
|
|
| 附录 |
白板推导系列：数学基础
邹博：数学基础, 各种距离之间的关系 |
|
|
