神经网络算法与进化算是什么关系?
。
应该没有太大的关系吧，我对遗传算法了解一点，遗传算法主要用来优化神经网络第一次运行时所用的连接权值，因为随机的连接权值往往不能对针对的问题有比较好的收敛效果（Matlab神经网络工具箱自动生成的初始权值其实已经比较好了）。
进化算法的基本步骤
进化计算是基于自然选择和自然遗传等生物进化机制的一种搜索算法常见的神经网络结构。
与普通的搜索方法一样，进化计算也是一种迭代算法，不同的是进化计算在最优解的搜索过程中，一般是从原问题的一组解出发改进到另一组较好的解，再从这组改进的解出发进一步改进。
而且在进化问题中，要求当原问题的优化模型建立后，还必须对原问题的解进行编码。进化计算在搜索过程中利用结构化和随机性的信息，使最满足目标的决策获得最大的生存可能，是一种概率型的算法。
一般来说，进化计算的求解包括以下几个步骤：给定一组初始解；评价当前这组解的性能；从当前这组解中选择一定数量的解作为迭代后的解的基础；再对其进行操作，得到迭代后的解；若这些解满足要求则停止，否则将这些迭代得到的解作为当前解重新操作。
以遗传算法为例，其工作步骤可概括为：（1）对工作对象——字符串用二进制的0/1或其它进制字符编码。（2）根据字符串的长度L，随即产生L个字符组成初始个体。（3）计算适应度。
适应度是衡量个体优劣的标志，通常是所研究问题的目标函数。（4）通过复制，将优良个体插入下一代新群体中，体现“优胜劣汰”的原则。（5）交换字符，产生新个体。
交换点的位置是随机决定的（6）对某个字符进行补运算，将字符1变为0，或将0变为1，这是产生新个体的另一种方法，突变字符的位置也是随机决定的。
（7）遗传算法是一个反复迭代的过程，每次迭代期间，要执行适应度计算、复制、交换、突变等操作，直至满足终止条件。将其用形式化语言表达，则为：假设α∈I记为个体，I记为个体空间。
适应度函数记为Φ：I→R。
在第t代，群体P(t)={a1(t),a2(t)，…，an(t)}经过复制r(reproduction)、交换c(crossover)及突变m(mutation)转换成下一代群体。
这里r、c、m均指宏算子，把旧群体变换为新群体。L：I→{True,Flase}记为终止准则。
利用上述符号，遗传算法可描述为：t=0initializeP(0):={a1(0),a2(0)，…，an(0)};while(l(P(t))≠True)doevaluateP(t):{Φ(a1(t)),Φ(a2(t))，…，Φ(an(t))};reproduction:P′(t):=r(P(t));crossover:P″(t):=c(P′(t));mutation:P(t+1):=m(P″(t));t=t+1;end。
什么是智能优化算法
群体智能优化算法是一类基于概率的随机搜索进化算法，各个算法之间存在结构、研究内容、计算方法等具有较大的相似性。
因此，群体智能优化算法可以建立一个基本的理论框架模式：Step1：设置参数，初始化种群；Step2：生成一组解，计算其适应值；Step3：由个体最有适应着，通过比较得到群体最优适应值；Step4：判断终止条件示否满足？
如果满足，结束迭代；否则，转向Step2；各个群体智能算法之间最大不同在于算法更新规则上，有基于模拟群居生物运动步长更新的（如PSO，AFSA与SFLA），也有根据某种算法机理设置更新规则（如ACO）。
扩展资料优化算法有很多，经典算法包括：有线性规划，动态规划等；改进型局部搜索算法包括爬山法，最速下降法等，模拟退火、遗传算法以及禁忌搜索称作指导性搜索法。而神经网络，混沌搜索则属于系统动态演化方法。
优化思想里面经常提到邻域函数，它的作用是指出如何由当前解得到一个（组）新解。其具体实现方式要根据具体问题分析来定。参考资料来源：百度百科-智能算法。
bp神经网络的算法改进一共有多少种啊！麻烦举例一下！
。
改进点主要在以下几个方面1激励函数的坡度———————误差曲面的平台和不收敛现象————————————————激励函数中引入陡度因子，分段函数做激励函数2误差曲面——————误差平方做目标函数，逼近速度慢，过拟合————————————————标准误差函数中加入惩罚项————————————————信息距离和泛化能力之间的关系，构建新的神经网络学习函数3网络初始权值的选取—————————通常在【0,1】间选取，易陷入局部最小—————————————————复合算法优化初始权值—————————————————Cauchy不等式和线性代数方法得最优初始权值4改进优化算法————————标准BP采用梯度下降法，局部最小收敛慢——————————————————共扼梯度法、Newton法、Gauss一Ncwton法、Lvenber_Marquardt法、快速传播算法——————————————————前馈网络学习算法，二阶学习算法，三项BP算法，最优学习参数的BP算法。
5.优化网络结构————————拓扑结构中网络层数、各层节点数、节点连接方式的不确定性——————————————构造法和剪枝法（权衰减法、灵敏度计算方法等）——————————————网络结构随样本空间进行变换，简化网络结构6混合智能算法————————与遗传算法、进化计算、人工免疫算法、蚁群算法、微粒群算法、————————模糊数学、小波理论、混沌理论。
细胞神经网络。
什么是蚁群算法，神经网络算法，遗传算法
蚁群算法又称蚂蚁算法，是一种用来在图中寻找优化路径的机率型算法。它由MarcoDorigo于1992年在他的博士论文中提出，其灵感来源于蚂蚁在寻找食物过程中发现路径的行为。
蚁群算法是一种模拟进化算法,初步的研究表明该算法具有许多优良的性质.针对PID控制器参数优化设计问题,将蚁群算法设计的结果与遗传算法设计的结果进行了比较,数值仿真结果表明,蚁群算法具有一种新的模拟进化优化方法的有效性和应用价值。
神经网络思维学普遍认为，人类大脑的思维分为抽象（逻辑）思维、形象（直观）思维和灵感（顿悟）思维三种基本方式。
逻辑性的思维是指根据逻辑规则进行推理的过程；它先将信息化成概念，并用符号表示，然后，根据符号运算按串行模式进行逻辑推理；这一过程可以写成串行的指令，让计算机执行。
然而，直观性的思维是将分布式存储的信息综合起来，结果是忽然间产生想法或解决问题的办法。
这种思维方式的根本之点在于以下两点:1.信息是通过神经元上的兴奋模式分布储在网络上;2.信息处理是通过神经元之间同时相互作用的动态过程来完成的。人工神经网络就是模拟人思维的第二种方式。
这是一个非线性动力学系统，其特色在于信息的分布式存储和并行协同处理。虽然单个神经元的结构极其简单，功能有限，但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。
神经网络的研究内容相当广泛，反映了多学科交叉技术领域的特点。目前，主要的研究工作集中在以下几个方面：（1）生物原型研究。
从生理学、心理学、解剖学、脑科学、病理学等生物科学方面研究神经细胞、神经网络、神经系统的生物原型结构及其功能机理。（2）建立理论模型。根据生物原型的研究，建立神经元、神经网络的理论模型。
其中包括概念模型、知识模型、物理化学模型、数学模型等。（3）网络模型与算法研究。在理论模型研究的基础上构作具体的神经网络模型，以实现计算机馍拟或准备制作硬件，包括网络学习算法的研究。
这方面的工作也称为技术模型研究。（4）人工神经网络应用系统。在网络模型与算法研究的基础上，利用人工神经网络组成实际的应用系统，例如，完成某种信号处理或模式识别的功能、构作专家系统、制成机器人等等。
纵观当代新兴科学技术的发展历史，人类在征服宇宙空间、基本粒子，生命起源等科学技术领域的进程中历经了崎岖不平的道路。我们也会看到，探索人脑功能和神经网络的研究将伴随着重重困难的克服而日新月异。
遗传算法，是模拟达尔文生物进化论的自然选择和遗传学机理的生物进化过程的计算模型，是一种通过模拟自然进化过程搜索最优解的方法，它最初由美国Michigan大学J.Holland教授于1975年首先提出来的，并出版了颇有影响的专著《AdaptationinNaturalandArtificialSystems》，GA这个名称才逐渐为人所知，J.Holland教授所提出的GA通常为简单遗传算法（SGA）。
进化算法的特点
进化计算是一种具有鲁棒性的方法，能适应不同的环境不同的问题，而且在大多数情况下都能得到比较满意的有效解。
他对问题的整个参数空间给出一种编码方案，而不是直接对问题的具体参数进行处理，不是从某个单一的初始点开始搜索，而是从一组初始点搜索。
搜索中用到的是目标函数值的信息，可以不必用到目标函数的导数信息或与具体问题有关的特殊知识。因而进化算法具有广泛的应用性，高度的非线性，易修改性和可并行性。
此外，算法本身也可以采用动态自适应技术，在进化过程中自动调整算法控制参数和编码精度，比如使用模糊自适应法。进化策略(ES)是在1965年由Rechenberg和Schwefel独立提出的。
进化策略的一般算法(1)问题为寻找实值n维矢量x，使得函数F(x):R→R取极值。不失一般性，设此程序为极小化过程。(2)从各维的可行范围内随机选取亲本xi，i=1,…,p的始值。
初始试验的分布一般是均匀分布。(3)通过对于x的每个分量增加零均值和预先选定的标准差的高斯随机变量，从每个亲本xi产生子代xi’。
(4)通过将适应度F(xi)和F(xi’)，i=1，…，P进行排序，选择并决定那些矢量保留。具有最小适应度的P个矢量变成下一代的新亲本。
进行新试验，选择具有最小方差的新子代，一直到获得充分解，或者直到满足某个终止条件。在这个模型中，把试验解的分量看做个体的行为特性，而不是沿染色体排列的基因。
假设不管发生什么遗传变换，所造成各个个体行为的变化均遵循零均值和某个标准差的高斯分布。由于基因多效性和多基因性，特定基因的改变可以影响许多表现型特征。
所以在创造新子系时，较为合适的是同时改变亲本所有分量。(1+1)—ES：早期的进化策略的种群中只包含一个个体，并且只使用变异操作。
在每一代中，变异后的个体与其父代进行比较，并选择较好的一个，这种选择策略被称为(1+1)策略。
(1+1)—ES的缺点：(1)各维取定常的标推差使得程序收敛到最优解的速度很慢；(2)点到点搜索的脆弱本质使得程序在局部极值附近容易受停滞的影响(虽然此算法表明可以渐近地收敛到全局最优点)。
(μ+λ)—ES：μ个亲本制造λ个子代，所有解均参加生存竞争，选出最好的μ个作为下一代的亲本。(μ，λ)—ES：只有λ个子代参加生存竞争，在每代中μ个亲本被完全取代。
1．个体的表示法:每个解矢量不仅包括了n维试验矢量x，而且还包括了扰动矢量σ，后者给出如何变异x以及它本身如何变异的指令。2．变异：设x为当前矢量。
σ为对应于x每个维的方差矢量，于是新的解矢量x’，σ’可以这样产生：3．交叉：4．选择在进化策略中，选择是按完全确定的方式进行。(μ,λ)—ES是从λ个子代个体集中选择μ(1。
阿尔法狗再进化，它是如何进化的？
AlphaGoZero使用新的强化学习方法，让自己变成了老师。系统一开始甚至并不知道什么是围棋，只是从单一神经网络开始，通过神经网络强大的搜索算法，进行了自我对弈。
随着自我博弈的增加，神经网络逐渐调整，提升预测下一步的能力，最终赢得比赛。
更为厉害的是，随着训练的深入，DeepMind团队发现，AlphaGoZero还独立发现了游戏规则，并走出了新策略，为围棋这项古老游戏带来了新的见解。
自学3天，就打败了旧版AlphaGoAlphaGoZero还在3个方面与此前版本有明显差别。
AlphaGo-Zero的训练时间轴首先，AlphaGoZero仅用棋盘上的黑白子作为输入，而前代则包括了小部分人工设计的特征输入。其次，AlphaGoZero仅用了单一的神经网络。
在此前的版本中，AlphaGo用到了"策略网络"来选择下一步棋的走法，以及使用"价值网络"来预测每一步棋后的赢家。而在新的版本中，这两个神经网络合二为一，从而让它能得到更高效的训练和评估。
第三，AlphaGoZero并不使用快速、随机的走子方法。在此前的版本中，AlphaGo用的是快速走子方法，来预测哪个玩家会从当前的局面中赢得比赛。
相反，新版本依靠地是其高质量的神经网络来评估下棋的局势。AlphaGo几个版本的排名情况。据哈萨比斯和席尔瓦介绍，以上这些不同帮助新版AlphaGo在系统上有了提升，而算法的改变让系统变得更强更有效。
经过短短3天的自我训练，AlphaGoZero就强势打败了此前战胜李世石的旧版AlphaGo，战绩是100:0的。
经过40天的自我训练，AlphaGoZero又打败了AlphaGoMaster版本。"Master"曾击败过世界顶尖的围棋选手，甚至包括世界排名第一的柯洁。
对于希望利用人工智能推动人类社会进步为使命的DeepMind来说，围棋并不是AlphaGo的终极奥义，他们的目标始终是要利用AlphaGo打造通用的、探索宇宙的终极工具。
AlphaGoZero的提升，让DeepMind看到了利用人工智能技术改变人类命运的突破。他们目前正积极与英国医疗机构和电力能源部门合作，提高看病效率和能源效率。
时代的步伐越来越快，科技进步的速度也越来越快……也许有一天，科技的研发将会由一个组织者和一群智能机器人代替……这个时代，科技，正让生活更加便利。
