因为粒子群优化不是基于梯度的（gasp！） ， 所以不需要优化问题是可微的 。因此 ， 使用PSO优化神经网络或任何其他算法将对选择其他函数中的激活函数或等效角色具有更大的自由度和更低的敏感性 。此外 ， 它几乎没有关于优化问题的假设 ， 甚至可以搜索很大的空间 。
可以想象 ， 基于总体的方法比基于梯度的优化器在计算上要昂贵得多 ， 但不一定如此 。由于该算法是如此开放和非刚性-正如基于进化的算法通常如此 ， 因此人们可以控制粒子的数量 ， 粒子的移动速度 ， 全局共享的信息量等等 。就像可能会调整神经网络中的学习率一样 。
代理优化是一种优化方法 ， 它尝试使用另一个完善的函数对损失函数建模以找到最小值 。该技术从损失函数中采样"数据点" ， 这意味着它尝试使用不同的参数值（
推荐阅读
- 房龄超过20年的老房子可以购买吗？
- 梦见刮大风特别大的风沙 梦见刮大风特别大的风把人刮走
- 宋襄公仁义之举 宋襄公不击半渡之师
- 养生茶
- 茶 无言的触碰
- 最适合护眼抗疲劳的九款保健茶
- 喝茶会不会解药 解的是中药还是西药
- 喝茶会引起氟过量吗
- 吃完火锅最应该喝的4种减肥茶
- 准吃货的你会做茶美食吗