退火随机爬山算法 (ARHC)

class pypop7.optimizers.rs.arhc.ARHC(problem, options)

退火随机爬山算法 (ARHC).

注意

ARHC的搜索性能严重依赖于退火过程的温度设置。然而，其正确设置是一个非平凡的任务，因为它可能因不同问题而异，甚至在同一问题的不同优化阶段也会有所不同。因此，强烈建议首先尝试更先进（例如基于群体的）方法进行大规模黑箱优化。

我们在这里包含它主要是为了基准测试的目的。

Parameters:

• 问题 (字典) –

  问题参数包含以下常见设置 (键):

  • ’fitness_function’ - 需要最小化的目标函数 (函数),

  • ’ndim_problem’ - 维度数 (整数),

  • ’upper_boundary’ - 搜索范围的上限 (类数组),

  • ’lower_boundary’ - 搜索范围的下限 (类数组).

• options (dict) –

  具有以下常见设置的优化器选项 (keys):

  • ’max_function_evaluations’ - 函数评估的最大次数 (int, 默认: np.inf),

  • ’max_runtime’ - 允许的最大运行时间 (float, 默认: np.inf),

  • ’seed_rng’ - 随机数生成的种子，需要显式设置 (int);

  以及以下特定设置 (keys):

  • ’sigma’ - 初始全局步长 (float),

  • ’temperature’ - 退火温度 (float),

  • ’x’ - 初始（起始）点 (array_like),

    • 如果未给出，当init_distribution为1时，它将从均匀分布中随机抽取一个样本，其搜索范围由problem[‘lower_boundary’]和problem[‘upper_boundary’]限定。否则，使用标准正态分布的随机采样。

  • ’init_distribution’ - 用于起始点初始化的随机采样分布 (int, 默认: 1)。仅当x未显式设置时，才会使用。

    • 1: 仅用于起始点初始化的均匀分布随机采样,

    • 0: 仅用于起始点初始化的标准正态分布随机采样.

示例

使用优化器来最小化著名的测试函数 Rosenbrock:

>>> import numpy
>>> from pypop7.benchmarks.base_functions import rosenbrock  # function to be minimized
>>> from pypop7.optimizers.rs.arhc import ARHC
>>> problem = {'fitness_function': rosenbrock,  # define problem arguments
...            'ndim_problem': 2,
...            'lower_boundary': -5*numpy.ones((2,)),
...            'upper_boundary': 5*numpy.ones((2,))}
>>> options = {'max_function_evaluations': 5000,  # set optimizer options
...            'seed_rng': 2022,
...            'x': 3*numpy.ones((2,)),
...            'sigma': 0.1,
...            'temperature': 1.5}
>>> arhc = ARHC(problem, options)  # initialize the optimizer class
>>> results = arhc.optimize()  # run the optimization process
>>> # return the number of used function evaluations and found best-so-far fitness
>>> print(f"ARHC: {results['n_function_evaluations']}, {results['best_so_far_y']}")
ARHC: 5000, 0.0002641143073543329

关于其编码的正确性检查，请参阅此基于代码的可重复性报告以获取更多详细信息。

init_distribution

用于起点初始化的随机抽样分布。

Type:

int

sigma

全局步长（在优化过程中固定）。

Type:

float

temperature

退火温度。

Type:

float

x

初始（起始）点。

Type:

array_like

参考文献

https://probml.github.io/pml-book/book2.html (参见第6.7章 无导数优化)

Russell, S. 和 Norvig P., 2021. 人工智能：现代方法（全球版）。 Pearson Education. http://aima.cs.berkeley.edu/ （参见第4章：复杂环境中的搜索）

Hoos, H.H. 和 Stützle, T., 2004. 随机局部搜索：基础与应用。 Elsevier. https://www.elsevier.com/books/stochastic-local-search/hoos/978-1-55860-872-6

https://github.com/pybrain/pybrain/blob/master/pybrain/optimization/hillclimber.py