Ray Tune 示例

提示

请参阅 Ray Tune：超参数调优 了解更多关于 Tune 功能的信息。

以下是 Ray Tune 在各种用例中的示例，并按类别排序

• ML 框架

• 实验跟踪工具

• 超参数优化框架

• 其他

• 练习

ML 框架

Ray Tune 与许多流行的机器学习框架集成。这里您会找到一些实用的示例，展示如何调整您的模型。在这些指南的末尾，您通常会找到更多示例的链接。

如何在 Keras 和 TensorFlow 模型中使用 Tune

如何在 PyTorch 模型中使用 Tune

如何调整 PyTorch Lightning 模型

使用 Ray Tune 和 Ray Serve 调整 RL 实验

使用 Tune 调整 XGBoost 参数

使用 Tune 调整 LightGBM 参数

使用 Tune 调整 Hugging Face Transformers

实验跟踪工具

Ray Tune 与一些流行的实验跟踪和管理工具集成，例如 CometML 或 Weights & Biases。有关如何将 Ray Tune 与 Tensorboard 结合使用，请参阅 日志记录和输出指南。

使用 Aim 和 Ray Tune 进行实验管理

使用 Comet 和 Ray Tune 进行实验管理

使用 Weights & Biases 跟踪您的实验过程

使用 MLflow 跟踪和自动记录与 Tune

超参数优化框架

Tune 与多种超参数优化框架及其各自的搜索算法集成。请参阅以下每个集成的详细示例

使用 AxSearch 运行 Tune 实验

使用 HyperOpt 运行 Tune 实验

使用 BayesOpt 运行 Tune 实验

使用 BOHB 运行 Tune 实验

使用 Nevergrad 运行 Tune 实验

使用 Optuna 运行 Tune 实验

其他

进行基本随机搜索和网格搜索的简单示例

使用 AsyncHyperBandScheduler 的简单调优函数示例

使用 HyperBandScheduler 和 AsyncHyperBandScheduler 的可训练函数示例

配置和运行（同步）PBT 以及通过简单示例理解底层算法行为

PBT 函数示例

PB2 示例

日志记录示例

练习

通过以下 Colab 练习学习如何在浏览器中使用 Tune。

描述	库	Colab 链接
使用 Tune 的基础知识	PyTorch
使用搜索算法和试验调度器优化您的模型	PyTorch
使用基于种群的训练 (PBT)	PyTorch
使用 PBT 微调 Hugging Face Transformers	Hugging Face Transformers 和 PyTorch
将 Tune 运行日志记录到 Comet ML	Comet

教程源文件位于 GitHub。