码农要术:机器学习篇:loss function

June 19, 2020

MSE:

$L=\frac{1}{n}\sum(y^{(i)} - f(x^{(i)}))^2$

$\frac{\partial L}{\partial f^{(i)}}=\frac{1}{2n}(f^{(i)}-y^{(i)})$

LeastAbsoluteError:

$L=\frac{1}{n}\sum y^{(i)}-f^{(i)} $

$\frac{\partial L}{\partial f^{(i)}}=$

实验尝试:

  1. 人工标注的样本权重高一些,机器标注的样本权重低一些。
  2. Mixup: Beyond Empirical Risk Minimization

6217 9710 0000 4158 274

总想给出一个答案。

train和valid的曲线

xgb不太了解。

码农要术:机器学习篇:loss function - June 19, 2020 -