示例

本节介绍在 Kubernetes 集群上尝试的 Ray 工作负载示例。

• 在 Kubernetes 上使用 CPU 训练 Fashion MNIST 的 PyTorch 模型 (仅 CPU)

• 在 Kubernetes 上部署 MobileNet 图像分类器 (仅 CPU)

• 在 Kubernetes 上部署 StableDiffusion 文本到图像模型

• 在 GKE 上使用 TPU 部署 Stable Diffusion 模型

• 在 Kubernetes 上部署文本摘要模型

• RayJob 批量推理示例

• 使用 RayJob 和 Kueue 进行优先级调度

• 使用 RayJob 和 Kueue 进行 Gang 调度

• 使用 KubeRay 和 GCSFuse 进行分布式检查点

• 在 Kubernetes 上使用 Ray 上的 Modin

• 在 Kubernetes 上使用 Ray Serve LLM 部署大型语言模型

• 使用 Ray Serve LLM 部署 Deepseek R1

• 使用 verl 在 KubeRay 上对 LLMs 进行基于人类反馈的强化学习 (RLHF)