Hopfield网络
能量函数+反馈结构(得到稳定的吸引子)
退火算法(一种思想)
搜索方向固定;如果等于梯度下降方向就完全接受,如果不等于就概率性接受(具有不断跳出位置较高的低谷,搜索位置较低的新低谷的能力)
BM
能量函数+反馈结构+状态概率性转移(退火算法思想)
BP(反向传播)网络
优化过程中的搜索方向变化等同于梯度下降方向
BM和BP
BM训练中同时改变节点状态和参数值;BP训练中改变的是参数值
Ref
《人工神经网络理论、设计及应用 第2版》
能量函数+反馈结构(得到稳定的吸引子)
搜索方向固定;如果等于梯度下降方向就完全接受,如果不等于就概率性接受(具有不断跳出位置较高的低谷,搜索位置较低的新低谷的能力)
能量函数+反馈结构+状态概率性转移(退火算法思想)
优化过程中的搜索方向变化等同于梯度下降方向
BM训练中同时改变节点状态和参数值;BP训练中改变的是参数值
《人工神经网络理论、设计及应用 第2版》
上一篇:L1、L2规则化
下一篇:凸集、凸函数、凸优化
限制玻尔兹曼机
玻尔兹曼常数(Boltzmann constant),通常使用表示,是指有关于温度及能量的一个物理常数。玻尔兹曼是一位奥地利物理学家,在统计力学的理论有重大贡献,玻尔兹曼常数具有相当重要的地位。 1.基于2N3904的Boltzmann常数 在PN结两边,存在一个由电子-空穴扩散而形成的耗散区,以及伴随着的接触电位区,只有热量动能超过的电子才能够从n型区域穿越到p型区域。根据统计力学原理,处在热
之前一直在用vscode和anaconda的组合来写python,不过作为小白一直没有探究更优雅的用法,偶然在网上看到一个视频教程,感觉十分清晰实用,在这里整理一下,分享给各位、开发工具,简单概况两类:IDE 图形化集成开发环境 (vscode加插件就可以配置成ide)编辑+编译+调试工具集:vim编辑+gcc编译+gdb调试+make工程编译管理+git版本控制 (linux常见)在这里就不再赘
举报文章
请选择举报类型
补充说明
0/200
上传截图
格式支持JPEG/PNG/JPG,图片不超过1.9M