Hooke-Jeeves (HJ)

class pypop7.optimizers.ds.hj.HJ(problem, options)[source]

Hooke-Jeeves直接（模式）搜索方法（HJ）。

注意

HJ 是最受欢迎和被引用最多的 DS 方法之一，最初发表于1961年的一本顶级计算机科学期刊（即 JACM）。尽管有时它仍被用于优化低维黑箱问题，但强烈推荐尝试其他更先进的方法来进行大规模黑箱优化。

Parameters:

  • 问题 (字典) –

    问题参数包含以下常见设置 (键):

    • ’fitness_function’ - 需要最小化的目标函数 (函数),

    • ’ndim_problem’ - 维度数 (整数),

    • ’upper_boundary’ - 搜索范围的上限 (类数组),

    • ’lower_boundary’ - 搜索范围的下限 (类数组).

  • options (dict) –

    具有以下常见设置的优化器选项 (keys):

    • ’max_function_evaluations’ - 函数评估的最大次数 (int, 默认: np.inf),

    • ’max_runtime’ - 允许的最大运行时间 (float, 默认: np.inf),

    • ’seed_rng’ - 需要显式设置的随机数生成种子 (int);

    以及以下特定设置 (keys):

    • ’sigma’ - 初始全局步长 (float, 默认: 1.0),

    • ’x’ - 初始（起始）点 (array_like),

      • 如果未给出，将从均匀分布中随机抽取一个样本，其搜索范围由 problem[‘lower_boundary’] 和 problem[‘upper_boundary’] 限定。

    • ’gamma’ - 全局步长的递减因子 (float, 默认: 0.5).

示例

使用优化器来最小化著名的测试函数 Rosenbrock:

 1>>> import numpy
 2>>> from pypop7.benchmarks.base_functions import rosenbrock  # function to be minimized
 3>>> from pypop7.optimizers.ds.hj import HJ
 4>>> problem = {'fitness_function': rosenbrock,  # define problem arguments
 5...            'ndim_problem': 2,
 6...            'lower_boundary': -5*numpy.ones((2,)),
 7...            'upper_boundary': 5*numpy.ones((2,))}
 8>>> options = {'max_function_evaluations': 5000,  # set optimizer options
 9...            'seed_rng': 2022,
10...            'x': 3*numpy.ones((2,)),
11...            'sigma': 0.1,  # the global step-size may need to be tuned for better performance
12...            'verbose_frequency': 500}
13>>> hj = HJ(problem, options)  # initialize the optimizer class
14>>> results = hj.optimize()  # run the optimization process
15>>> # return the number of function evaluations and best-so-far fitness
16>>> print(f"HJ: {results['n_function_evaluations']}, {results['best_so_far_y']}")
17HJ: 5000, 0.22119484961034389

关于其编码的正确性检查，请参阅此基于代码的可重复性报告以获取更多详细信息。

gamma

全局步长的递减因子。

Type:

float

sigma

最终的全局步长（在优化过程中会改变）。

Type:

float

x

初始（起始）点。

Type:

array_like

参考文献

Kochenderfer, M.J. 和 Wheeler, T.A., 2019. 优化算法. 麻省理工学院出版社. https://algorithmsbook.com/optimization/files/chapter-7.pdf （详情请参见算法7.5（第104页）。）

http://garfield.library.upenn.edu/classics1980/A1980JK10100001.pdf

Kaupe Jr, A.F., 1963. 算法178：直接搜索。 ACM通讯, 6(6), 第313-314页。 https://dl.acm.org/doi/pdf/10.1145/366604.366632

Hooke, R. 和 Jeeves, T.A., 1961. “直接搜索”解决数值和统计问题. ACM 期刊, 8(2), pp.212-229. https://dl.acm.org/doi/10.1145/321062.321069