Ray¶

class torchx.schedulers.ray_scheduler.RayScheduler(session_name: str, ray_client: Optional[JobSubmissionClient] = None)[source]¶

基础类: TmpDirWorkspaceMixin, Scheduler[RayOpts]

RayScheduler 是 TorchX 的调度接口，用于 Ray。作业定义的 workers 将作为 Ray actors 启动。

作业环境由TorchX工作区指定。除非在.torchxignore中指定，否则工作区中的任何文件都将出现在Ray作业中。Python依赖项将从位于工作区根目录的requirements.txt文件中读取，除非通过-c ...,requirements=foo/requirements.txt覆盖。

配置选项

    usage:
        [cluster_config_file=CLUSTER_CONFIG_FILE],[cluster_name=CLUSTER_NAME],[dashboard_address=DASHBOARD_ADDRESS],[requirements=REQUIREMENTS]

    optional arguments:
        cluster_config_file=CLUSTER_CONFIG_FILE (str, None)
            Use CLUSTER_CONFIG_FILE to access or create the Ray cluster.
        cluster_name=CLUSTER_NAME (str, None)
            Override the configured cluster name.
        dashboard_address=DASHBOARD_ADDRESS (str, 127.0.0.1:8265)
            Use ray status to get the dashboard address you will submit jobs against
        requirements=REQUIREMENTS (str, None)
            Path to requirements.txt

兼容性

功能	调度器支持
获取日志	部分支持。Ray 仅支持单个日志流，因此仅支持一个虚拟的“ray/0”组合日志角色。不支持尾部跟踪和时间搜索。
分布式作业	✔️
取消任务	✔️
描述工作	部分支持。RayScheduler 将返回作业状态，但不提供完整的原始 AppSpec。
工作区 / 补丁	✔️
挂载	❌
弹性	部分支持。不支持多角色作业。

describe(app_id: str) → Optional[DescribeAppResponse][source]¶

描述指定的应用程序。

Returns:: AppDef 描述或如果应用程序不存在则为 None。

list() → List[ListAppResponse][source]¶: 对于在调度程序上启动的应用程序，此API返回一个ListAppResponse对象列表，每个对象都包含应用程序ID及其状态。注意：此API处于原型阶段，可能会发生变化。

log_iter(app_id: str, role_name: Optional[str] = None, k: int = 0, regex: Optional[str] = None, since: Optional[datetime] = None, until: Optional[datetime] = None, should_tail: bool = False, streams: Optional[Stream] = None) → Iterable[str][source]¶

返回一个迭代器，用于遍历k``th replica of the ``role的日志行。当所有符合条件的日志行都被读取后，迭代器结束。

如果调度程序支持基于时间的光标获取自定义时间范围内的日志行，则since和until字段会被尊重，否则它们会被忽略。不指定since和until等同于获取所有可用的日志行。如果until为空，则迭代器的行为类似于tail -f，跟随日志输出直到作业达到终止状态。

日志的确切定义取决于调度程序。一些调度程序可能将stderr或stdout视为日志，而其他调度程序可能从日志文件中读取日志。

行为和假设：

如果在一个不存在的应用程序上调用，会产生未定义行为调用者应在调用此方法之前使用exists(app_id)检查应用程序是否存在。
不是有状态的，使用相同参数调用此方法两次会返回一个新的迭代器。之前的迭代进度会丢失。
并不总是支持日志尾部查看。并非所有调度器都支持实时日志迭代（例如，在应用程序运行时查看日志尾部）。请参考特定调度器的文档以了解迭代器的行为。

3.1 If the scheduler supports log-tailing, it should be controlled: 通过 should_tail 参数。

不保证日志的保留。当调用此方法时，底层调度程序可能已经清除了此应用程序的日志记录。如果是这样，此方法会引发任意异常。
如果 should_tail 为 True，该方法仅在可访问的日志行完全耗尽且应用程序达到最终状态时引发 StopIteration 异常。例如，如果应用程序卡住并且不产生任何日志行，则迭代器会阻塞，直到应用程序最终被终止（无论是通过超时还是手动），此时它会引发 StopIteration。

如果 should_tail 为 False，当没有更多日志时，该方法会引发 StopIteration。
不需要所有调度程序都支持。
一些调度器可能通过支持__getitem__来支持行光标（例如iter[50]跳转到第50条日志行）。
Whitespace is preserved, each new line should include \n. To
支持交互式进度条，返回的行不需要包含\n，但应在打印时不换行以正确处理\r回车符。

Parameters:: streams – 要选择的IO输出流。选项之一：combined, stdout, stderr。如果调度程序不支持所选的流，它将抛出一个ValueError。
Returns:: 一个Iterator，用于遍历指定角色副本的日志行
Raises:: NotImplementedError – 如果调度程序不支持日志迭代

schedule(dryrun_info: AppDryRunInfo[RayJob]) → str[source]¶

与submit相同，只是它接受一个AppDryRunInfo。鼓励实现者实现此方法，而不是直接实现submit，因为submit可以通过以下方式轻松实现：

dryrun_info = self.submit_dryrun(app, cfg)
return schedule(dryrun_info)

wait_until_finish(app_id: str, timeout: int = 30) → None[source]¶: wait_until_finish 等待直到指定的作业在给定的超时时间内完成。这用于测试。编程使用应改用运行器的等待方法。

torchx.schedulers.ray_scheduler.create_scheduler(session_name: str, ray_client: Optional[JobSubmissionClient] = None, **kwargs: Any) → RayScheduler[source]¶

torchx.schedulers.ray_scheduler.has_ray() → bool[source]¶: 指示当前Python环境中是否安装了Ray。

torchx.schedulers.ray_scheduler.serialize(actors: List[RayActor], dirpath: str, output_filename: str = 'actors.json') → None[source]¶

class torchx.schedulers.ray_scheduler.RayJob(app_id: str, working_dir: str, cluster_config_file: ~typing.Optional[str] = None, cluster_name: ~typing.Optional[str] = None, dashboard_address: ~typing.Optional[str] = None, requirements: ~typing.Optional[str] = None, actors: ~typing.List[~torchx.schedulers.ray.ray_common.RayActor] = <factory>)[source]¶

表示应在 Ray 集群上运行的作业。

Variables:

app_id (str) – 应用程序的唯一ID（也称为job）。
cluster_config_file (可选[str]) – Ray集群配置文件。
cluster_name (可选[str]) – 要使用的集群名称。
dashboard_address (可选[str]) – 要连接的现有仪表板IP地址
working_dir (str) – 要复制到集群的工作目录
需求 (可选[str]) – 根据requirements.txt在集群上安装的库
actors (List[torchx.schedulers.ray.ray_common.RayActor]) – 代表要运行的作业的Ray actors。此属性被转储到JSON文件中，并复制到集群中，ray_main.py使用它来启动作业。