机器学习介绍

introduction machine learning

deep learning

statistics vs. machine learning

区别：是否存在模型依赖；模型实质由参数组成。

statistics: model based
用训练数据来构建模型，是为了获取模型的参数，参数就是模型本身

Gauss-Markov theorem

machine learning: modef free
用数据来训练，模型是基于数据产生的。
暴力美学、数据驱动、误差最小

generalization

supervised learning
unsupervised learning
reinforcement learning

notation is important

GD for neural networks
back propagation

main issue
failure

维度灾难 —— 蒙特卡洛方法