Ray Tune 示例

提示

请参阅 包概览，了解有关 Tune 功能的更多信息。

以下是使用 Ray Tune 的各种用例示例，按类别排序

• ML 框架

• 实验跟踪工具

• 超参数优化框架

• 其他

• 练习

ML 框架

Ray Tune 与许多流行的机器学习框架集成。在这里，你可以找到一些实际示例，展示如何调优模型。在这些指南的末尾，你通常会找到更多示例的链接。

如何将 Tune 与 Keras 和 TensorFlow 模型一起使用

如何将 Tune 与 PyTorch 模型一起使用

如何调优 PyTorch Lightning 模型

使用 Ray Tune 和 Ray Serve 调优强化学习实验

使用 Tune 调优 XGBoost 参数

使用 Tune 调优 LightGBM 参数

使用 Tune 调优 Horovod 参数

使用 Tune 调优 Hugging Face Transformers

调优 TensorFlow 模型的端到端示例

使用 PBT 调优 PyTorch 模型的端到端示例

实验跟踪工具

Ray Tune 集成了一些流行的实验跟踪和管理工具，例如 CometML 或 Weights & Biases。有关如何将 Ray Tune 与 Tensorboard 一起使用，请参阅 日志记录和输出指南。

将 Aim 与 Ray Tune 一起用于实验管理

将 Comet 与 Ray Tune 一起用于实验管理

使用 Weights & Biases 跟踪你的实验过程

使用 Tune 进行 MLflow 跟踪和自动日志记录

超参数优化框架

Tune 集成了各种各样的超参数优化框架及其各自的搜索算法。请参阅以下每个集成的详细示例

使用 AxSearch 运行 Tune 实验

使用 HyperOpt 运行 Tune 实验

使用 BayesOpt 运行 Tune 实验

使用 BOHB 运行 Tune 实验

使用 Nevergrad 运行 Tune 实验

使用 Optuna 运行 Tune 实验

其他

进行基本随机搜索和网格搜索的简单示例

使用简单调优函数与 AsyncHyperBandScheduler 的示例

使用可训练函数与 HyperBandScheduler 和 AsyncHyperBandScheduler 的示例

配置和运行（同步）PBT 并通过简单示例理解底层算法行为

PBT 函数示例

PB2 示例

日志记录示例

练习

通过以下基于 Colab 的练习，学习如何在浏览器中使用 Tune。

描述	库	Colab 链接
Tune 使用基础	PyTorch
使用搜索算法和 trial 调度器优化你的模型	PyTorch
使用群体训练 (PBT)	PyTorch
使用 PBT 微调 Hugging Face Transformers	Hugging Face Transformers 和 PyTorch
将 Tune 运行记录到 Comet ML	Comet

教程源文件位于 GitHub。