索引

_

__init__() (horovod.keras.callbacks.BroadcastGlobalVariablesCallback 方法) (horovod.keras.callbacks.LearningRateScheduleCallback 方法) (horovod.keras.callbacks.LearningRateWarmupCallback 方法) (horovod.keras.callbacks.MetricAverageCallback 方法) (horovod.tensorflow.keras.callbacks.BroadcastGlobalVariablesCallback 方法) (horovod.tensorflow.keras.callbacks.LearningRateScheduleCallback 方法) (horovod.tensorflow.keras.callbacks.LearningRateWarmupCallback 方法) (horovod.tensorflow.keras.callbacks.MetricAverageCallback 方法)

A

AbstractFilesystemStore (horovod.spark.common.store中的类) add_process_set() (在horovod.mxnet模块中) (在horovod.tensorflow模块中) (在horovod.tensorflow.keras模块中) (在horovod.torch模块中) allgather() (在horovod.keras模块中) (在horovod.mxnet模块中) (在horovod.tensorflow模块中) (在horovod.tensorflow.keras模块中) (在horovod.torch模块中) allgather_async() (在horovod.torch模块中) allgather_object() (在horovod.mxnet模块中) (在horovod.tensorflow模块中) (在horovod.torch模块中)

allreduce() (在horovod.keras模块中) (在horovod.mxnet模块中) (在horovod.tensorflow模块中) (在horovod.tensorflow.keras模块中) (在horovod.torch模块中) allreduce_() (在horovod.mxnet模块中) (在horovod.torch模块中) allreduce_async() (在horovod.torch模块中) allreduce_async_() (在horovod.torch模块中) alltoall() (在horovod.mxnet模块中) (在horovod.tensorflow模块中) (在horovod.torch模块中) alltoall_async() (在horovod.torch模块中) apply_gradients() (horovod.tensorflow.LocalGradientAggregationHelper方法)

B

Backend (horovod.spark.common.backend 中的类) barrier() (在 horovod.torch 模块中) broadcast() (在 horovod.keras 模块中) (在 horovod.mxnet 模块中) (在 horovod.tensorflow 模块中) (在 horovod.tensorflow.keras 模块中) (在 horovod.torch 模块中) broadcast_() (在 horovod.mxnet 模块中) (在 horovod.tensorflow 模块中) (在 horovod.torch 模块中) broadcast_async() (在 horovod.torch 模块中) broadcast_async_() (在 horovod.torch 模块中)

broadcast_global_variables() (在 horovod.keras 模块中) (在 horovod.tensorflow 模块中) (在 horovod.tensorflow.keras 模块中) broadcast_object() (在 horovod.mxnet 模块中) (在 horovod.tensorflow 模块中) (在 horovod.torch 模块中) broadcast_optimizer_state() (在 horovod.torch 模块中) broadcast_parameters() (在 horovod.mxnet 模块中) (在 horovod.torch 模块中) broadcast_variables() (在 horovod.tensorflow 模块中) BroadcastGlobalVariablesCallback (horovod.keras.callbacks 中的类) (horovod.tensorflow.keras.callbacks 中的类) BroadcastGlobalVariablesHook (horovod.tensorflow 中的类)

C

ccl_built() (在模块 horovod.keras 中) (在模块 horovod.mxnet 中) (在模块 horovod.tensorflow 中) (在模块 horovod.tensorflow.keras 中) (在模块 horovod.torch 中) clear() (horovod.mxnet.OrderedDict 方法) CommitStateCallback (horovod.keras.elastic 中的类) (horovod.tensorflow.keras.elastic 中的类) Compression (horovod.keras 中的类) (horovod.mxnet 中的类) (horovod.tensorflow 中的类) (horovod.tensorflow.keras 中的类) (horovod.torch 中的类) compute_gradients() (horovod.tensorflow.LocalGradientAggregationHelper 方法) copy() (horovod.mxnet.defaultdict 方法) (horovod.mxnet.OrderedDict 方法) (horovod.spark.common.store.FilesystemStore 方法)

create_settings() (horovod.ray.ElasticRayExecutor 静态方法) (horovod.ray.RayExecutor 类方法) cross_rank() (在模块 horovod.keras 中) (在模块 horovod.mxnet 中) (在模块 horovod.tensorflow 中) (在模块 horovod.tensorflow.keras 中) (在模块 horovod.torch 中) cross_size() (在模块 horovod.keras 中) (在模块 horovod.mxnet 中) (在模块 horovod.tensorflow 中) (在模块 horovod.tensorflow.keras 中) (在模块 horovod.torch 中) cuda_built() (在模块 horovod.keras 中) (在模块 horovod.mxnet 中) (在模块 horovod.tensorflow 中) (在模块 horovod.tensorflow.keras 中) (在模块 horovod.torch 中)

D

DBFSLocalStore (horovod.spark.common.store 中的类) ddl_built() (在 horovod.keras 模块中) (在 horovod.mxnet 模块中) (在 horovod.tensorflow 模块中) (在 horovod.tensorflow.keras 模块中) (在 horovod.torch 模块中)

default_factory (horovod.mxnet.defaultdict 属性) defaultdict (horovod.mxnet 中的类) DistributedGradientTape() (在 horovod.tensorflow 模块中) DistributedOptimizer() (在 horovod.keras 模块中) (在 horovod.tensorflow 模块中) (在 horovod.tensorflow.keras 模块中) (在 horovod.torch 模块中)

E

ElasticRayExecutor (horovod.ray 中的类) ElasticSampler (horovod.torch.elastic 中的类) execute() (horovod.ray.RayExecutor 方法)

execute_single() (horovod.ray.RayExecutor 方法) exists() (horovod.spark.common.store.AbstractFilesystemStore 方法) (horovod.spark.common.store.DBFSLocalStore 方法) (horovod.spark.common.store.Store 方法)

F

FilesystemStore (horovod.spark.common.store中的类) fit() (horovod.spark.common.estimator.HorovodEstimator 方法) fit_on_parquet() (horovod.spark.common.estimator.HorovodEstimator 方法) fp16 (horovod.keras.Compression 属性) (horovod.mxnet.Compression 属性) (horovod.tensorflow.Compression 属性) (horovod.tensorflow.keras.Compression 属性) (horovod.torch.Compression 属性)

fromkeys() (horovod.mxnet.OrderedDict 方法)

G

get_checkpoint_filename() (horovod.spark.common.store.AbstractFilesystemStore method) (horovod.spark.common.store.DBFSLocalStore method) (horovod.spark.common.store.Store method) get_checkpoint_path() (horovod.spark.common.store.AbstractFilesystemStore method) (horovod.spark.common.store.Store method) get_checkpoints() (horovod.spark.common.store.AbstractFilesystemStore method) (horovod.spark.common.store.Store method) get_logs_path() (horovod.spark.common.store.AbstractFilesystemStore method) (horovod.spark.common.store.Store method) get_logs_subdir() (horovod.spark.common.store.AbstractFilesystemStore method) (horovod.spark.common.store.Store method) get_parquet_dataset() (horovod.spark.common.store.AbstractFilesystemStore method) (horovod.spark.common.store.Store method) get_run_path() (horovod.spark.common.store.AbstractFilesystemStore method) (horovod.spark.common.store.Store method) get_runs_path() (horovod.spark.common.store.AbstractFilesystemStore method) (horovod.spark.common.store.Store method) get_test_data_path() (horovod.spark.common.store.AbstractFilesystemStore method) (horovod.spark.common.store.Store method) get_train_data_path() (horovod.spark.common.store.AbstractFilesystemStore method) (horovod.spark.common.store.Store method) get_val_data_path() (horovod.spark.common.store.AbstractFilesystemStore method) (horovod.spark.common.store.Store method) gloo_built() (in module horovod.keras) (in module horovod.mxnet) (in module horovod.tensorflow) (in module horovod.tensorflow.keras) (in module horovod.torch)

gloo_enabled() (in module horovod.keras) (in module horovod.mxnet) (in module horovod.tensorflow) (in module horovod.tensorflow.keras) (in module horovod.torch) grouped_allgather() (in module horovod.mxnet) (in module horovod.tensorflow) (in module horovod.torch) grouped_allgather_async() (in module horovod.torch) grouped_allreduce() (in module horovod.mxnet) (in module horovod.tensorflow) (in module horovod.torch) grouped_allreduce_() (in module horovod.mxnet) (in module horovod.torch) grouped_allreduce_async() (in module horovod.torch) grouped_allreduce_async_() (in module horovod.torch) grouped_reducescatter() (in module horovod.mxnet) (in module horovod.tensorflow) (in module horovod.torch) grouped_reducescatter_async() (in module horovod.torch)

H

HDFSStore (class in horovod.spark.common.store) horovod.keras module horovod.keras.callbacks module horovod.keras.elastic module horovod.mxnet module horovod.ray module horovod.run module horovod.spark module horovod.spark.common.backend module horovod.spark.common.store module

horovod.tensorflow module horovod.tensorflow.elastic module horovod.tensorflow.keras module horovod.tensorflow.keras.callbacks module horovod.tensorflow.keras.elastic module horovod.torch module horovod.torch.elastic module HorovodEstimator (class in horovod.spark.common.estimator) HorovodInternalError HorovodModel (class in horovod.spark.common.estimator) host_hash() (in module horovod.spark.common.store)

I

included() (horovod.mxnet.ProcessSet 方法) (horovod.tensorflow.keras.ProcessSet 方法) (horovod.tensorflow.ProcessSet 方法) (horovod.torch.ProcessSet 方法) is_homogeneous() (在 horovod.tensorflow 模块中) is_initialized() (在 horovod.keras 模块中) (在 horovod.mxnet 模块中) (在 horovod.tensorflow 模块中) (在 horovod.tensorflow.keras 模块中) (在 horovod.torch 模块中)

is_parquet_dataset() (horovod.spark.common.store.AbstractFilesystemStore 方法) (horovod.spark.common.store.Store 方法) items() (horovod.mxnet.OrderedDict 方法)

J

join() (在模块 horovod.tensorflow 中) (在模块 horovod.torch 中)

K

KerasEstimator (horovod.spark.keras中的类) KerasModel (horovod.spark.keras中的类)

KerasState (horovod.keras.elastic中的类) (horovod.tensorflow.keras.elastic中的类) keys() (horovod.mxnet.OrderedDict 方法)

L

LearningRateScheduleCallback (horovod.keras.callbacks 中的类) (horovod.tensorflow.keras.callbacks 中的类) LearningRateWarmupCallback (horovod.keras.callbacks 中的类) (horovod.tensorflow.keras.callbacks 中的类) load_model() (horovod.keras 模块中) (horovod.tensorflow.keras 模块中) local_rank() (horovod.keras 模块中) (horovod.mxnet 模块中) (horovod.tensorflow 模块中) (horovod.tensorflow.keras 模块中) (horovod.torch 模块中)

local_rank_op() (horovod.tensorflow 模块中) local_size() (horovod.keras 模块中) (horovod.mxnet 模块中) (horovod.tensorflow 模块中) (horovod.tensorflow.keras 模块中) (horovod.torch 模块中) local_size_op() (horovod.tensorflow 模块中) LocalGradientAggregationHelper (horovod.tensorflow 中的类) LocalStore (horovod.spark.common.store 中的类)

M

MetricAverageCallback (horovod.keras.callbacks 中的类) (horovod.tensorflow.keras.callbacks 中的类) 模块 horovod.keras horovod.keras.callbacks horovod.keras.elastic horovod.mxnet horovod.ray horovod.run horovod.spark horovod.spark.common.backend horovod.spark.common.store horovod.tensorflow horovod.tensorflow.elastic horovod.tensorflow.keras horovod.tensorflow.keras.callbacks horovod.tensorflow.keras.elastic horovod.torch horovod.torch.elastic

move_to_end() (horovod.mxnet.OrderedDict 方法) mpi_built() (在 horovod.keras 模块中) (在 horovod.mxnet 模块中) (在 horovod.tensorflow 模块中) (在 horovod.tensorflow.keras 模块中) (在 horovod.torch 模块中) mpi_enabled() (在 horovod.keras 模块中) (在 horovod.mxnet 模块中) (在 horovod.tensorflow 模块中) (在 horovod.tensorflow.keras 模块中) (在 horovod.torch 模块中) mpi_threads_supported() (在 horovod.keras 模块中) (在 horovod.mxnet 模块中) (在 horovod.tensorflow 模块中) (在 horovod.tensorflow.keras 模块中) (在 horovod.torch 模块中)

N

nccl_built() (在模块 horovod.keras 中) (在模块 horovod.mxnet 中) (在模块 horovod.tensorflow 中) (在模块 horovod.tensorflow.keras 中) (在模块 horovod.torch 中) none (horovod.keras.Compression 属性) (horovod.mxnet.Compression 属性) (horovod.tensorflow.Compression 属性) (horovod.tensorflow.keras.Compression 属性) (horovod.torch.Compression 属性)

normalize_path() (horovod.spark.common.store.DBFSLocalStore 静态方法) num_processes() (horovod.spark.common.backend.Backend 方法) (horovod.spark.common.backend.SparkBackend 方法)

O

OrderedDict (horovod.mxnet中的类)

P

PartialDistributedGradientTape() (在模块 horovod.tensorflow 中) PartialDistributedOptimizer() (在模块 horovod.keras 中) poll() (在模块 horovod.torch 中) pop() (horovod.mxnet.OrderedDict 方法) popitem() (horovod.mxnet.OrderedDict 方法)

process_set_included_op() (在模块 horovod.tensorflow 中) ProcessSet (类在 horovod.mxnet 中) (类在 horovod.tensorflow 中) (类在 horovod.tensorflow.keras 中) (类在 horovod.torch 中)

R

rank() (horovod.mxnet.ProcessSet method) (horovod.tensorflow.keras.ProcessSet method) (horovod.tensorflow.ProcessSet method) (horovod.torch.ProcessSet method) (in module horovod.keras) (in module horovod.mxnet) (in module horovod.tensorflow) (in module horovod.tensorflow.keras) (in module horovod.torch) rank_op() (in module horovod.tensorflow) RayExecutor (class in horovod.ray) read() (horovod.spark.common.store.AbstractFilesystemStore method) (horovod.spark.common.store.Store method) read_serialized_keras_model() (horovod.spark.common.store.AbstractFilesystemStore method) (horovod.spark.common.store.DBFSLocalStore method) record_batch() (horovod.torch.elastic.ElasticSampler method) reducescatter() (in module horovod.keras) (in module horovod.mxnet) (in module horovod.tensorflow) (in module horovod.tensorflow.keras) (in module horovod.torch) reducescatter_async() (in module horovod.torch) register_local_var() (horovod.tensorflow.LocalGradientAggregationHelper method)

remove_process_set() (in module horovod.mxnet) (in module horovod.tensorflow) (in module horovod.tensorflow.keras) (in module horovod.torch) restore() (horovod.tensorflow.elastic.TensorFlowKerasState method) (horovod.tensorflow.elastic.TensorFlowState method) (horovod.torch.elastic.TorchState method) rocm_built() (in module horovod.keras) (in module horovod.mxnet) (in module horovod.tensorflow) (in module horovod.tensorflow.keras) (in module horovod.torch) run() (horovod.ray.ElasticRayExecutor method) (horovod.ray.RayExecutor method) (horovod.spark.common.backend.Backend method) (horovod.spark.common.backend.SparkBackend method) (in module horovod.keras.elastic) (in module horovod.spark) (in module horovod.tensorflow.elastic) (in module horovod.tensorflow.keras.elastic) (in module horovod.torch.elastic) run_elastic() (in module horovod.spark) run_remote() (horovod.ray.RayExecutor method)

S

save() (horovod.tensorflow.elastic.TensorFlowKerasState 方法) (horovod.tensorflow.elastic.TensorFlowState 方法) (horovod.torch.elastic.TorchState 方法) saving_runs() (horovod.spark.common.store.AbstractFilesystemStore 方法) (horovod.spark.common.store.Store 方法) set_epoch() (horovod.torch.elastic.ElasticSampler 方法) setdefault() (horovod.mxnet.OrderedDict 方法) shutdown() (horovod.ray.RayExecutor 方法) (在 horovod.keras 模块中) (在 horovod.mxnet 模块中) (在 horovod.tensorflow 模块中) (在 horovod.tensorflow.keras 模块中) size() (horovod.mxnet.ProcessSet 方法) (horovod.tensorflow.keras.ProcessSet 方法) (horovod.tensorflow.ProcessSet 方法) (horovod.torch.ProcessSet 方法) (在 horovod.keras 模块中) (在 horovod.mxnet 模块中) (在 horovod.tensorflow 模块中) (在 horovod.tensorflow.keras 模块中) (在 horovod.torch 模块中) size_op() (在 horovod.tensorflow 模块中)

SparkBackend (horovod.spark.common.backend 中的类) start() (horovod.ray.ElasticRayExecutor 方法) (horovod.ray.RayExecutor 方法) start_timeline() (在 horovod.keras 模块中) (在 horovod.mxnet 模块中) (在 horovod.tensorflow 模块中) (在 horovod.tensorflow.keras 模块中) (在 horovod.torch 模块中) stop_timeline() (在 horovod.keras 模块中) (在 horovod.mxnet 模块中) (在 horovod.tensorflow 模块中) (在 horovod.tensorflow.keras 模块中) (在 horovod.torch 模块中) Store (horovod.spark.common.store 中的类) sync() (horovod.tensorflow.elastic.TensorFlowKerasState 方法) (horovod.tensorflow.elastic.TensorFlowState 方法) (horovod.torch.elastic.TorchState 方法) sync_fn() (horovod.spark.common.store.FilesystemStore 方法) (horovod.spark.common.store.HDFSStore 方法) (horovod.spark.common.store.Store 方法) SyncBatchNorm (horovod.torch 中的类) synchronize() (在 horovod.torch 模块中)

T

TensorFlowKerasState (horovod.tensorflow.elastic 中的类) TensorFlowState (horovod.tensorflow.elastic 中的类) to_remote() (horovod.spark.common.store.Store 方法)

TorchEstimator (horovod.spark.torch 中的类) TorchModel (horovod.spark.torch 中的类) TorchState (horovod.torch.elastic 中的类) transform() (horovod.spark.common.estimator.HorovodModel 方法)

U

update() (horovod.mxnet.OrderedDict 方法) UpdateBatchStateCallback (horovod.keras.elastic 中的类) (horovod.tensorflow.keras.elastic 中的类)

UpdateEpochStateCallback (horovod.keras.elastic 中的类) (horovod.tensorflow.keras.elastic 中的类)

V

values() (horovod.mxnet.OrderedDict 方法)

W

write_text() (horovod.spark.common.store.AbstractFilesystemStore 方法) (horovod.spark.common.store.Store 方法)