随机搜索 (RS)
- class pypop7.optimizers.rs.rs.RS(problem, options)[source]
随机(随机)搜索(优化)(RS)。
这是所有RS类的抽象类。请使用其实例化的任何子类来优化当前的黑箱问题。
注意
“本地搜索在1990年代初期因对大型(组合)问题的惊人良好结果而重新焕发活力……并通过引入随机性、多个同时搜索和其他改进。”—[Russell&Norvig, 2022, AIMA]
随机局部搜索(RLS)通常被视为`启发式优化算法之一,也称为爬山法、最陡上升法或贪婪搜索<>`_。
- Parameters:
问题 (字典) –
- 问题参数包含以下常见设置 (键):
’fitness_function’ - 需要最小化的目标函数 (函数),
’ndim_problem’ - 维度数 (整数),
’upper_boundary’ - 搜索范围的上限 (类数组),
’lower_boundary’ - 搜索范围的下限 (类数组).
options (dict) –
- 具有以下常见设置的优化器选项 (keys):
’max_function_evaluations’ - 函数评估的最大次数 (int, 默认: np.inf),
’max_runtime’ - 允许的最大运行时间 (float, 默认: np.inf),
’seed_rng’ - 需要显式设置的随机数生成种子 (int);
- 以及以下特定设置 (key):
’x’ - 初始(起始)点 (array_like).
- x
初始(起始)点。
- Type:
array_like
参考文献
Nesterov, Y. 和 Spokoiny, V., 2017. 凸函数的随机无梯度最小化. 计算数学基础, 17(2), 第527-566页. https://link.springer.com/article/10.1007/s10208-015-9296-2
Bergstra, J. 和 Bengio, Y., 2012. 超参数优化的随机搜索. 机器学习研究杂志, 13(2). https://www.jmlr.org/papers/v13/bergstra12a.html
Appel, M.J., Labarre, R. 和 Radulovic, D., 2004. 关于加速随机搜索. SIAM 优化杂志, 14(3), 第708-731页. https://epubs.siam.org/doi/abs/10.1137/S105262340240063X
Schmidhuber, J., Hochreiter, S. 和 Bengio, Y., 2001. 通过随机猜测评估基准问题。 《动态循环网络实地指南》,第231-235页。 https://ml.jku.at/publications/older/ch9.pdf
Schmidhuber, J. 和 Hochreiter, S., 1996. 猜测可以胜过许多长时间滞后算法。 技术报告。 https://www.bioinf.jku.at/publications/older/3204.pdf
Rastrigin, L.A., 1986. 随机搜索作为优化和适应的方法。 在《随机优化》中。 https://link.springer.com/chapter/10.1007/BFb0007129
Solis, F.J. 和 Wets, R.J.B., 1981. 通过随机搜索技术进行最小化。 运筹学数学, 6(1), 第19-30页. https://pubsonline.informs.org/doi/abs/10.1287/moor.6.1.19
Schrack, G. 和 Choit, M., 1976. 优化的相对步长随机搜索. 数学规划, 10(1), 第230-244页. https://link.springer.com/article/10.1007/BF01580669
Schumer, M.A. 和 Steiglitz, K., 1968. 自适应步长随机搜索. IEEE Transactions on Automatic Control, 13(3), pp.270-276. https://ieeexplore.ieee.org/abstract/document/1098903
Matyas, J., 1965. 随机优化。 自动化与远程控制, 26(2), pp.246-253.
Karnopp, D.C., 1963. 优化问题的随机搜索技术。 Automatica, 1(2-3), pp.111-121. https://www.sciencedirect.com/science/article/abs/pii/0005109863900189
Rastrigin, L.A., 1963. 多参数系统极值控制中随机搜索方法的收敛性。 Automaton & Remote Control, 24, pp.1337-1342. https://tinyurl.com/djfdnpx4
Brooks, S.H., 1958. 关于寻找最大值的随机方法的讨论。 Operations Research, 6(2), pp.244-251. https://pubsonline.informs.org/doi/abs/10.1287/opre.6.2.244
Ashby, W.R., 1952. Design for a brain: The origin of adaptive behaviour. 斯普林格出版社。