基于遗传算法的神经网络权值和偏差变异

我认为,这个问题没有简单的解决办法。在正态分布的情况下,平均数周围的数字有更多的机会被你的数字生成器“选中”,均匀分布给所有数字几乎相等的机会。这是很清楚的,但对问题的答案,平等的机会意味着更好的结果,根据我只放在实证实验。所以我建议你用正态分布和均匀分布做实验,试着根据结果来判断。

关于多样性。我假设你创建了一个表示权重的随机向量。在变异的阶段,你们执行随机数的加法。这个数字很可能是从接近均值的区间开始的,所以在0的情况下突变的概率很高,一些元素的变化很小。所以在向量上只有很小的改进,有时会出现一些大的改进。在均匀分布的情况下,变化会更加随机,从而导致个体的不同。问题是,这些人会更好吗?我不知道,但我给你另一种看法。我把遗传算法比作进化论。而从这个角度来看,个人的累积性小进步与小概率的一些大的改变是比较合适的。想一想情况,用的是均匀分布,但孩子们由于适应度低变化大,所以在创造新一代的阶段不会被选中。你会等很长时间,等待一个微小的改进,让你的网络运行良好的结果。

也许还有一件事。你的实验可能表明均匀/正态分布更好。但这样的结果可能只适用于你目前的问题,而不是一般的问题。