自然进化策略 (NES)
- class pypop7.optimizers.nes.nes.NES(problem, options)[source]
自然进化策略（NES）。
这是所有NES类的抽象类。请使用其实例化的任何子类来优化当前的黑箱问题。
注意
NES 是一系列原则良好的基于种群的随机搜索方法，其推导相对清晰，源自基本原理，它通过（估计的）自然梯度来最大化期望适应度。在本库中，我们已将其转换为最小化问题，以与其他模块保持一致。
关于NES的一些有趣应用，请参考 [Xu et al., 2024, ICLR], [Liu et al., 2024, TC (哥伦比亚大学, NVIDIA研究院, 诺基亚贝尔实验室等)], [Xuan Zhang et al., 2024, IEEE-LRA], [Conti et al., 2018, NeurIPS], 等等。
- Parameters:
问题 (字典) –
- 问题参数包含以下常见设置 (键):
’fitness_function’ - 需要最小化的目标函数 (函数),
’ndim_problem’ - 维度数 (整数),
’upper_boundary’ - 搜索范围的上限 (类数组),
’lower_boundary’ - 搜索范围的下限 (类数组).
options (dict) –
- 优化器选项，包含以下常见设置 (keys):
’max_function_evaluations’ - 函数评估的最大次数 (int, 默认: np.inf),
’max_runtime’ - 允许的最大运行时间 (float, 默认: np.inf),
’seed_rng’ - 随机数生成的种子，需要显式设置 (int);
- 以及以下特定设置 (keys):
’n_individuals’ - 后代/子代的数量，即后代种群大小 (int),
’n_parents’ - 父母/祖先的数量，即父母种群大小 (int),
’mean’ - 初始（起始）点 (array_like),
如果未给出，将从均匀分布中随机抽取一个样本，其搜索范围由 problem[‘lower_boundary’] 和 problem[‘upper_boundary’] 限定。
’sigma’ - 初始全局步长，即突变强度 (float).
- mean
初始（起始）点，也称为高斯搜索/采样/变异分布的均值。 如果未给出，它将从均匀分布中随机抽取一个样本，其搜索范围由problem[‘lower_boundary’]和problem[‘upper_boundary’]限定，默认情况下。
- Type:
array_like
- n_individuals
后代数量，也称为后代种群大小（应> 0）。
- Type:
int
- n_parents
父母/祖先的数量，也称为父母种群大小（应> 0）。
- Type:
int
- sigma
最终的全局步长，也称为变异强度或高斯搜索分布的整体标准差（应> 0.0）。
- Type:
float
参考文献
Hüttenrauch, M. 和 Neumann, G., 2024. Robust black-box optimization for stochastic search and episodic reinforcement learning. 《机器学习研究杂志》, 25(153), 第1-44页。
Wierstra, D., Schaul, T., Glasmachers, T., Sun, Y., Peters, J. 和 Schmidhuber, J., 2014. 自然进化策略。 机器学习研究杂志, 15(1), 页949-980.
Schaul, T., 2011. 连续黑箱优化研究。 博士论文，慕尼黑工业大学。
Yi, S., Wierstra, D., Schaul, T. 和 Schmidhuber, J., 2009年6月。 使用自然梯度的随机搜索。 在国际机器学习会议论文集（第1161-1168页）中。
Wierstra, D., Schaul, T., Peters, J. 和 Schmidhuber, J., 2008年6月. 自然进化策略. 在IEEE进化计算大会中 (第3381-3387页). IEEE.
请参考来自PyBrain（现已不再积极维护）的官方Python源代码： https://github.com/pybrain/pybrain
NES: