深度学习发展过程中，已衍生出较多的训练优化算法，且在实际应用中发挥越来越重...
发布于 2022-03-02 16:59:58
深度学习发展过程中，已衍生出较多的训练优化算法，且在实际应用中发挥越来越重要的作用。请根据你的经验，回答下面这些问题。
1）训练优化算法的目的是什么？
2）SGD的原理和不足有哪些？
3）在SGD基础上，已逐渐优化出Momentum、AdaGrad、AdaDelta、Adam等算法，请简述这4种算法的原理及其改良出发点。
4）请根据你的理解阐述上述几种算法分别适应哪些问题类型的优化，或根据你的实际经验阐述应用了何种优化算法取得了较好效果及其原因分析
关注者
0
被浏览
42
