Schwefel的自适应进化策略(SSAES)

class pypop7.optimizers.es.ssaes.SSAES(problem, options)[source]

Schwefel的自适应进化策略(SSAES)。

注意

SSAES 动态调整所有个体步长(即坐标方向的标准差),由Schwefel提出(IEEE进化计算先锋奖2002IEEE Frank Rosenblatt奖2011的获得者之一)。由于它通常需要相对较大的种群(例如,大于维度数)以实现可靠的自适应,SSAES在大规模黑箱优化中容易受到缓慢收敛的影响。因此,建议首先尝试更先进的ES变体(例如,LMCMALMMAES)进行大规模黑箱优化。这里我们包含SSAES主要是为了基准测试理论目的。目前,由于其通常较慢的收敛速度,restart过程尚未实现。

Parameters:
  • 问题 (字典) –

    问题参数包含以下常见设置 ():
    • ’fitness_function’ - 需要最小化的目标函数 (函数),

    • ’ndim_problem’ - 维度数 (整数),

    • ’upper_boundary’ - 搜索范围的上限 (类数组),

    • ’lower_boundary’ - 搜索范围的下限 (类数组).

  • options (dict) –

    具有以下常见设置的优化器选项 (keys):
    • ’max_function_evaluations’ - 函数评估的最大次数 (int, 默认: np.inf),

    • ’max_runtime’ - 允许的最大运行时间 (float, 默认: np.inf),

    • ’seed_rng’ - 随机数生成的种子,需要显式设置 (int);

    以及以下特定设置 (keys):
    • ’sigma’ - 初始全局步长,也称为变异强度 (float),

    • ’mean’ - 初始(起始)点,也称为高斯搜索分布的均值 (array_like),

      • 如果未给出,将从均匀分布中随机抽取一个样本,其搜索范围由 problem[‘lower_boundary’]problem[‘upper_boundary’] 限定。

    • ’n_individuals’ - 后代数量,也称为后代种群大小 (int, 默认: 5*problem[‘ndim_problem’]),

    • ’n_parents’ - 父母数量,也称为父母种群大小 (int, 默认: int(options[‘n_individuals’]/4)),

    • ’lr_sigma’ - 全局步长自适应的学习率 (float, 默认: 1.0/np.sqrt(problem[‘ndim_problem’])),

    • ’lr_axis_sigmas’ - 个体步长自适应的学习率 (float, 默认: 1.0/np.power(problem[‘ndim_problem’], 1.0/4.0)).

示例

使用黑盒优化器 SSAES 来最小化著名的测试函数 Rosenbrock:

 1>>> import numpy  # engine for numerical computing
 2>>> from pypop7.benchmarks.base_functions import rosenbrock  # function to be minimized
 3>>> from pypop7.optimizers.es.ssaes import SSAES
 4>>> problem = {'fitness_function': rosenbrock,  # to define problem arguments
 5...            'ndim_problem': 2,
 6...            'lower_boundary': -5.0*numpy.ones((2,)),
 7...            'upper_boundary': 5.0*numpy.ones((2,))}
 8>>> options = {'max_function_evaluations': 5000,  # to set optimizer options
 9...            'seed_rng': 2022,
10...            'mean': 3.0*numpy.ones((2,)),
11...            'sigma': 3.0}  # global step-size may need to be tuned for optimality
12>>> ssaes = SSAES(problem, options)  # to initialize the black-box optimizer class
13>>> results = ssaes.optimize()  # to run the optimization/evolution process
14>>> print(f"SSAES: {results['n_function_evaluations']}, {results['best_so_far_y']}")
15SSAES: 5000, 0.0002

关于其编码的正确性检查,请参阅此基于代码的可重复性报告以获取更多详细信息。

best_so_far_x

在整个优化过程中找到的最终最佳解决方案。

Type:

array_like

best_so_far_y

在整个优化过程中找到的最终最佳适应度。

Type:

array_like

lr_axis_sigmas

个体步长自适应的学习率。

Type:

float

lr_sigma

全局步长自适应的学习率。

Type:

float

mean

初始(起始)点,也称为高斯搜索分布的平均值。

Type:

array_like

n_individuals

后代数量,也称为后代种群大小。

Type:

int

n_parents

父母数量,也称为父母种群大小。

Type:

int

sigma

初始全局步长,也称为变异强度。

Type:

float

_axis_sigmas

最终的个体步长(在优化过程中更新)。

Type:

array_like

参考文献

Hansen, N., Arnold, D.V. 和 Auger, A., 2015. 进化策略. 在 Springer 计算智能手册中 (第 871-898 页). Springer, 柏林, 海德堡.

Beyer, H.G. 和 Schwefel, H.P., 2002. 进化策略——全面介绍。 自然计算, 1(1), 第3-52页。

Schwefel, H.P., 1988. Collective intelligence in evolving systems. 在《生态动力学》(第95-100页)中。Springer, Berlin, Heidelberg.

Schwefel, H.P., 1984. 进化策略:一种基于模仿有机进化某些原理的非线性优化技术家族。 运筹学年鉴, 1(2), pp.165-167.