Ray Articles
4 articles
Ray + vLLM 离线多节点部署：从可复现安装到安全运维
Curated guide把 Ray wheelhouse、GPU 容器、并行策略、私有网络、认证、健康检查和回滚拆开，避免把一条历史启动命令误当成生产保证。
从零搭建 vLLM 多节点推理集群：Docker 部署全流程实战
手把手教你用 Docker + Ray + vLLM 在多节点 GPU 集群上部署 70B+ 大模型推理服务，覆盖在线/离线安装、模型选型、性能调优与生产运维。
Python Ray Offline Installation Guide
Step-by-step guide for installing Ray in air-gapped environments using pre-downloaded wheel packages, with pip configuration and verification steps.
Tag navigation
Featured tags