机器学习基础与优化

题集来源:Datawhale(datawhalechina)收录项目:daily-interview查看原题集

原文作者
李文乐 其中第 1—9 题来自李文乐编写的文档:第 1—5 题为 CRF,第 6—9 题为 HMM。

题目目录

84 道原题
  1. 对于拥有两层隐含层的神经⽹络(MLP), 请⼿动推导其 BP 算法的细节。

    原题

    原题未给出激活函数、输出损失和样本批量。

  2. 使⽤ KNN 会遇到⼀些效率上的问题,请说明如何使⽤ LSH(latent semantic hashing)来做近似操作?

    原题

    原题的 LSH 按近似近邻语境理解为 locality-sensitive hashing(局部敏感哈希)。

  3. 在朴素⻉贝叶斯和语⾔模型中我们通常会使⽤ smoothing 技术,请简述⼏个常⻅见 的 smoothing ⽅法以及它们优缺点。

    原题
  4. 如何理解高方差与低偏差?

    原题
  5. 什么是过拟合和欠拟合,为什么会出现这个现象

    原题
  6. 怎么解决欠拟合

    原题
  7. 怎么解决过拟合(重点)

    原题
  8. 为什么参数越小代表模型越简单?

    原题

    原题未区分参数数值大小、参数稀疏与参数数量。

  9. 为什么L1比L2更容易获得稀疏解?(重点)

    原题
  10. Dropout为什么有助于防止过拟合?(重点)

    原题