以下文章来源于Datawhale ，作者Michael
高尔夫球员刚开始学习打高尔夫球时，通常会花很长时间练习挥杆 。慢慢地，他们才会在此基础上练习其他击球方式，学习削球、左曲球和右曲球 。本章仍着重介绍反向传播算法，这就是我们的“挥杆基本功”——神经网络中大部分工作、学习和研究的基础 。
本文将着重讲解利用交叉熵代价函数改进神经网络的学习方法 。
文章插图
一、交叉熵代价函数
大多数人不喜欢被他人指出错误 。我以前刚学习弹钢琴不久，就在听众前做了一次首秀 。我很紧张，开始时错将八度音阶的曲段演奏得很低 。我不知所措，因为演奏无法继续下去了，直到有人指出了其中的错误 。我当时非常尴尬 。不过，尽管不愉快，我们却能因为明显的错误而快速地学到正确的知识 。下次我肯定能演奏正确！然而当错误不明确的时候，学习会变得非常缓慢 。学习速度下降的原因实际上也是一般的神经网络学习缓慢的原因，并不仅仅是特有的 。
引入交叉熵代价函数如何解决这个问题呢？研究表明，可以使用交叉熵代价函数来替换二次代价函数 。
将交叉熵看作代价函数有两点原因 。第一，它是非负的，
推荐阅读
- 属鼠的人几月几日出生是最好的？
- 临期食品一手货源在哪里找？
- 一次解决你的图像尺寸和定位问题
- 三个步骤完成强连通分量分解的Kosaraju算法
- 这些著名数据库之间的“关系”，你知道吗？
- 商朝建立在哪里 商朝是什么时期建立的
- Photoshop把真人做成绘画效果的方法
- 李清照什么时候嫁给了赵明诚 李清照的丈夫赵明诚是干什么的
- 薛丁山与樊梨花最后结婚了吗 历史薛丁山与樊梨花怎么死的
- 企业网站建设的目标有哪些？目标有哪些角点科技告诉你！