YC Yc.W home Systems · C++ · AI Infrastructure

GPU Articles

3 articles


AI & LLM · curated-v1

GPU / CUDA / Docker 部署兼容性清单:从镜像到模型服务

Curated guide
用版本矩阵、镜像 digest、模型校验、GPU 可见性、安全边界和功能验收,把消费级 GPU 部署记录整理成可复用的兼容性案例。
AI & LLM · curated-v1

Ray + vLLM 离线多节点部署:从可复现安装到安全运维

Curated guide
把 Ray wheelhouse、GPU 容器、并行策略、私有网络、认证、健康检查和回滚拆开,避免把一条历史启动命令误当成生产保证。
AI & LLM · curated-v1

LLM 推理服务上线清单:从单机验证到多节点运维

Curated guide
整合 vLLM、Ray、Docker、模型网关和离线部署笔记,给出模型服务从容量估算到灰度、监控与回滚的生产检查表。