部署规划工具
设计您的私有 AI 部署
为试点、团队或高可用生产集群构建拓扑。在创建云资源之前，了解 AI Gateway、工作节点、Kubernetes 和许可证如何协同。
部署参数
实时拓扑
推荐
网关与托管工作节点池
应用和 API 客户端
HTTPS / OpenAI API
AI Gateway
路由、健康检查、故障转移
指标、预算、审计和模型存储
基础设施估算
—
软件许可证
—
每月参考总额
—
美元，税前
实用起点
试点
使用一个 CPU 工作节点验证网络、密钥、客户端兼容性和运维。这能证明部署可行，但不代表生产推理速度。
团队
从 AI Gateway 后的两个 GPU 工作节点开始。一个处理流量时可维护另一个，并可在不改客户端的情况下扩容。
生产
在不同故障域使用至少三个工作节点，并配置生产控制平面 SLA、自动扩缩护栏、持久模型存储、TLS 入口及标准可观测性栈。