Ray 是一个开源的统一计算框架,它使 AI 和 Python 工作负载的扩展变得轻松,包括强化学习、深度学习、调优、模型服务等。Ray 旨在简化复杂工作负载的扩展,并且支持 PyTorch 和 TensorFlow 的分布式执行,加速超参数搜索工作负载,以及通过 Ray Serve 部署机器学习模型。
此外,Ray 还提供了丰富的库和集成,例如 RLlib 支持强化学习,Ray Core 用于构建可扩展的 Python 分布式系统,Ray Datasets 用于扩展数据加载、写入、转换和转换。
一些行业领导者,如 LinkedIn 的 Ya Xu、Uber 的 Albert Greenberg 和 Niantic 的 Brian McClendon,都分享了他们使用 Ray 来开发下一代 AI 应用的经验。例如,Samsara 使用 Ray 扩展了深度学习模型的训练,Uber 选择了 Ray 作为其机器学习和深度学习平台的统一计算后端,OpenAI 利用 Ray 来训练其最大的模型,包括 ChatGPT。