Lecture1 预测本频道观看人数

27 May 2024 856字 3分
CC BY 4.0 （除特别声明或转载文章外）

课件下载 Lecture1

专有名词（机器学习的三个主要任务）
Regression: The function outputs a scalar.
Classification: Given options(classes), the function outputs the correct one.
Structured Learning: Create something with structure(image, document)

Model 就是带有未知的 Parameter 的 Function

机器学习步骤

Function

image.png

Define Loss

Loss is a function of parameters based on how good a set of values is.
我的理解就是 Loss 是一个评估函数，这个函数利用现有的准确数据(label)对学习得到的 function 的 parameters 进行评估
Loss : $L = \frac{1}{N}\sum_ne_n$

$e$就是预测值和真实值(label)之间的差距，它有不同的算法

$e=\lvert y - \hat{y} \rvert$ $L$ is mean absolute error(MAE)

$e= (y - \hat{y})^2$ $L$ is mean square error(MSE)

Error Surface
image.png

Optimization

image.png
Gradient Descent可能问题是找到的最优解是局部最优解而不是全局最优解
image.png
image.png
image.png

More Sophisticated Modes

image.png
image.png
想要得到连续的曲线就需要足够多的Piecewise Linear
image.png

Function

Hard Sigmoid 是 Sigmoid 的一种特殊情况
image.png
image.png
red curve 可以由一系列的蓝色函数得到，而蓝色函数是由 sigmoid 表示
sigmoid 越多可以表示的曲线就越复杂，sigmoid 的数量也是一个 hyperparameters
image.png
更多Features的情况
image.png
image.png
image.png
image.png

Define Loss

image.png

Optimization of New Model

image.png
image.png
image.png

Activation function

image.png
image.png

Neural Network

image.png

Overfitting

image.png