累积步长自适应进化策略 (CSAES)

class pypop7.optimizers.es.csaes.CSAES(problem, options)

累积步长自适应进化策略（CSAES）。

注意

CSAES 根据进化计算领域中著名的 CSA 规则（也称为累积（进化）路径长度控制），使用一个相对较小的种群动态调整所有个体的步长。默认设置（即使用小种群）可能会导致相对快速的（局部）收敛，但在多模态适应度景观上可能会陷入次优解的风险。因此，建议首先尝试更高级的ES变体（例如，LMCMA，LMMAES）进行大规模黑箱优化。这里我们包含CSAES主要是为了基准测试和理论目的。

Parameters:

• 问题 (字典) –

  问题参数包含以下常见设置 (键):

  • ’fitness_function’ - 需要最小化的目标函数 (函数),

  • ’ndim_problem’ - 维度数 (整数),

  • ’upper_boundary’ - 搜索范围的上限 (类数组),

  • ’lower_boundary’ - 搜索范围的下限 (类数组).

• options (dict) –

  具有以下常见设置的优化器选项 (keys):

  • ’max_function_evaluations’ - 函数评估的最大次数 (int, 默认: np.inf),

  • ’max_runtime’ - 允许的最大运行时间 (float, 默认: np.inf),

  • ’seed_rng’ - 随机数生成的种子，需要显式设置 (int);

  以及以下特定设置 (keys):

  • ’sigma’ - 初始全局步长，即变异强度 (float),

  • ’mean’ - 初始（起始）点，即高斯搜索分布的均值 (array_like),

    • 如果未给出，将从均匀分布中随机抽取一个样本，其搜索范围由 problem[‘lower_boundary’] 和 problem[‘upper_boundary’] 限定。

  • ’n_individuals’ - 后代数量，即后代种群大小 (int, 默认: 4 + int(np.floor(3*np.log(problem[‘ndim_problem’])))),

  • ’n_parents’ - 父母数量，即父母种群大小 (int, 默认: int(options[‘n_individuals’]/4)),

  • ’lr_sigma’ - 全局步长适应的学习率 (float, 默认: np.sqrt(options[‘n_parents’]/(problem[‘ndim_problem’] + options[‘n_parents’]))).

示例

使用黑盒优化器 CSAES 来最小化著名的测试函数 Rosenbrock:

>>> import numpy  # engine for numerical computing
>>> from pypop7.benchmarks.base_functions import rosenbrock  # function to be minimized
>>> from pypop7.optimizers.es.csaes import CSAES
>>> problem = {'fitness_function': rosenbrock,  # to define problem arguments
...            'ndim_problem': 2,
...            'lower_boundary': -5.0*numpy.ones((2,)),
...            'upper_boundary': 5.0*numpy.ones((2,))}
>>> options = {'max_function_evaluations': 5000,  # to set optimizer options
...            'seed_rng': 2022,
...            'mean': 3.0*numpy.ones((2,)),
...            'sigma': 0.1}  # global step-size may need to be tuned
>>> csaes = CSAES(problem, options)  # to initialize the optimizer class
>>> results = csaes.optimize()  # to run the optimization/evolution process
>>> # to return the number of function evaluations and best-so-far fitness
>>> print(f"CSAES: {results['n_function_evaluations']}, {results['best_so_far_y']}")
CSAES: 5000, 0.010143683086819875

关于其编码的正确性检查，请参阅此基于代码的可重复性报告以获取更多详细信息。

best_so_far_x

在整个优化过程中找到的最终最佳解决方案。

Type:

array_like

best_so_far_y

在整个优化过程中找到的最终最佳适应度。

Type:

array_like

lr_sigma

全局步长调整的学习率。

Type:

float

mean

初始（起始）点，也称为高斯搜索分布的平均值。

Type:

array_like

n_individuals

后代数量，也称为后代种群大小。

Type:

int

n_parents

父母数量，也称为父母种群大小。

Type:

int

sigma

初始全局步长，也称为变异强度。

Type:

float

参考文献

Hansen, N., Arnold, D.V. 和 Auger, A., 2015. 进化策略. 在 Springer 计算智能手册中 (第 871-898 页). Springer, 柏林, 海德堡.

Kern, S., Müller, S.D., Hansen, N., Büche, D., Ocenasek, J. 和 Koumoutsakos, P., 2004. 学习连续进化算法中的概率分布——比较综述。 自然计算, 3, 第77-112页。

Ostermeier, A., Gawelczyk, A. 和 Hansen, N., 1994年10月。 基于选择信息的非局部使用的步长调整。 在国际并行问题解决自然会议中（第189-198页）。 Springer, 柏林, 海德堡。