码农要术:机器学习篇:loss function
June 19, 2020
MSE:
$L=\frac{1}{n}\sum(y^{(i)} - f(x^{(i)}))^2$
$\frac{\partial L}{\partial f^{(i)}}=\frac{1}{2n}(f^{(i)}-y^{(i)})$
LeastAbsoluteError:
$L=\frac{1}{n}\sum | y^{(i)}-f^{(i)} | $ |
$\frac{\partial L}{\partial f^{(i)}}=$
实验尝试:
- 人工标注的样本权重高一些,机器标注的样本权重低一些。
- Mixup: Beyond Empirical Risk Minimization
6217 9710 0000 4158 274
总想给出一个答案。
train和valid的曲线
xgb不太了解。