交叉熵方法 (CEM)
- class pypop7.optimizers.cem.cem.CEM(problem, options)[source]
交叉熵方法 (CEM)。
这是所有CEM类的抽象类。请使用其实例化的任何子类来优化当前的黑箱问题。
注意
- CEM is a class of principled population-based optimizers, proposed originally by Rubinstein,
其核心思想基于Kullback–Leibler(或交叉熵)最小化。
- Parameters:
问题 (字典) –
- 问题参数包含以下常见设置 (键):
’fitness_function’ - 需要最小化的目标函数 (函数),
’ndim_problem’ - 维度数 (整数),
’upper_boundary’ - 搜索范围的上限 (类数组),
’lower_boundary’ - 搜索范围的下限 (类数组).
options (dict) –
- 具有以下常见设置的优化器选项 (keys):
’max_function_evaluations’ - 函数评估的最大次数 (int, 默认: np.inf),
’max_runtime’ - 允许的最大运行时间 (float, 默认: np.inf),
’seed_rng’ - 需要显式设置的随机数生成种子 (int);
- 以及以下特定设置 (keys):
’sigma’ - 初始全局步长,即变异强度 (float),
’mean’ - 初始(起始)点,即高斯搜索分布的均值 (array_like),
如果未给出,将从均匀分布中随机抽取一个样本,其搜索范围由 problem[‘lower_boundary’] 和 problem[‘upper_boundary’] 限定。
’n_individuals’ - 个体/样本的数量 (int, 默认: 1000),
’n_parents’ - 精英个体的数量 (int, 默认: 200).
- mean
初始(起始)点,也称为高斯搜索(变异/采样)分布的均值。
- Type:
array_like
- n_individuals
个体/样本的数量。
- Type:
int
- n_parents
精英数量。
- Type:
int
- sigma
初始全局步长,也称为变异强度。
- Type:
float
参考文献
Amos, B. 和 Yarats, D., 2020年11月. 可微交叉熵方法. 在国际机器学习会议上 (第291-302页). PMLR. http://proceedings.mlr.press/v119/amos20a.html
Rubinstein, R.Y. 和 Kroese, D.P., 2016. 模拟与蒙特卡罗方法(第三版)。 John Wiley & Sons. https://onlinelibrary.wiley.com/doi/book/10.1002/9781118631980
胡, J., 傅, M.C. 和马库斯, S.I., 2007. 一种用于全局优化的模型参考自适应搜索方法. 运筹学, 55(3), pp.549-568. https://pubsonline.informs.org/doi/abs/10.1287/opre.1060.0367
Kroese, D.P., Porotsky, S. 和 Rubinstein, R.Y., 2006. 连续多极值优化的交叉熵方法。 应用概率中的方法与计算, 8(3), 第383-407页. https://link.springer.com/article/10.1007/s11009-006-9753-0
德布尔, P.T., 克罗斯, D.P., 曼诺尔, S. 和鲁宾斯坦, R.Y., 2005. 交叉熵方法的教程. 运筹学年鉴, 134(1), 第19-67页. https://link.springer.com/article/10.1007/s10479-005-5724-z
Rubinstein, R.Y. 和 Kroese, D.P., 2004. 交叉熵方法:组合优化、蒙特卡罗模拟和机器学习的统一方法。 纽约:Springer. https://link.springer.com/book/10.1007/978-1-4757-4321-0