噪声模拟退火 (NSA)

class pypop7.optimizers.sa.nsa.NSA(problem, options)

噪声模拟退火（NSA）。

注意

这是离散NSA的一个略微修改版本，用于连续优化。

Parameters:

• 问题 (字典) –

  问题参数包含以下常见设置 (键):

  • ’fitness_function’ - 需要最小化的目标函数 (函数),

  • ’ndim_problem’ - 维度数 (整数),

  • ’upper_boundary’ - 搜索范围的上限 (类数组),

  • ’lower_boundary’ - 搜索范围的下限 (类数组).

• options (dict) –

  具有以下常见设置的优化器选项 (keys):

  • ’max_function_evaluations’ - 函数评估的最大次数 (int, 默认: np.inf),

  • ’max_runtime’ - 允许的最大运行时间 (float, 默认: np.inf),

  • ’seed_rng’ - 随机数生成的种子，需要显式设置 (int);

  以及以下特定设置 (keys):

  • ’x’ - 初始（起始）点 (array_like),

  • ’sigma’ - 初始全局步长 (float),

  • ’is_noisy’ - 是否最小化噪声成本函数 (bool, 默认: False),

  • ’schedule’ - 采样强度的调度 (str, 默认: linear),

    • 目前仅支持两种（线性或二次）采样强度调度,

  • ’n_samples’ - 样本数量 (int),

  • ’rt’ - 退火温度的减少因子 (float, 默认: 0.99).

示例

使用黑盒优化器 NSA 来最小化著名的测试函数 Rosenbrock:

>>> import numpy  # engine for numerical computing
>>> from pypop7.benchmarks.base_functions import rosenbrock  # function to be minimized
>>> from pypop7.optimizers.sa.nsa import NSA
>>> problem = {'fitness_function': rosenbrock,  # define problem arguments
...            'ndim_problem': 2,
...            'lower_boundary': -5*numpy.ones((2,)),
...            'upper_boundary': 5*numpy.ones((2,))}
>>> options = {'max_function_evaluations': 5000,  # set optimizer options
...            'seed_rng': 2022,
...            'x': 3*numpy.ones((2,)),
...            'sigma': 1.0,
...            'temperature': 100.0}
>>> nsa = NSA(problem, options)  # initialize the optimizer class
>>> results = nsa.optimize()  # run the optimization process
>>> # return the number of function evaluations and best-so-far fitness
>>> print(f"NSA: {results['n_function_evaluations']}, {results['best_so_far_y']}")
NSA: 5000, 0.006086567926462302

由于其编码的正确性检查，基于代码的可重复性报告无法提供，原因是原始论文中缺少一些实验细节。

对于其基于pytest的测试，请参考this Python code。

is_noisy

是否最小化一个噪声成本函数。

Type:

bool

n_samples

每次迭代的样本数量。

Type:

int

rt

退火温度的降低因子。

Type:

float

schedule

采样强度的计划。

Type:

str

sigma

全局步长（在优化过程中固定）。

Type:

float

x

初始（起始）点。

Type:

array_like

参考文献

Bouttier, C. 和 Gavra, I., 2019. Convergence rate of a simulated annealing algorithm with noisy observations. 《机器学习研究杂志》, 20(1), 第127-171页。