什么是弹性部署服务
共绩科技弹性部署是一项敏捷高效的 GPU 算力动态分配服务,专为应对频繁波动的 AI 模型训练与推理任务而设计。它致力于为用户提供秒级伸缩的算力资源、按需付费的成本优化以及无缝的弹性扩展体验,确保业务高峰期的性能充沛与低谷期的成本节约,助力用户实现最优的资源利用率和业务敏捷性。
- 标准化环境:完整兼容 Docker 生态,支持一键导入现有容器
- 全托管服务:无需关心基础设施,专注核心业务开发
专业级硬件资源
Section titled “专业级硬件资源”- 企业级可靠性:提供 99.9% 可用性保障,确保业务稳定运行
- 大尺寸镜像支持:支持大尺寸镜像快速冷启动,满足复杂业务场景需求
智能调度系统
Section titled “ 智能调度系统”- 实时负载监控:系统实时监控业务负载,智能预测资源需求
- 自动扩缩容:根据业务负载自动调整算力资源,确保性能最优
- 成本优化:通过智能算法优化资源分配,实现性能与成本的最佳平衡
- 按秒计费:真正的按需付费模式,避免资源浪费
- 无需长期承诺:灵活的计费模式,无需支付固定成本
- 专业运维支持:提供全天候技术支持服务
- 实时监控:全方位监控系统状态,快速响应异常
- 故障自动转移:多重容灾机制,确保业务连续性
- 弹性部署服务不保存镜像状态,也不支持 ssh 功能,平台提供 Web UI
弹性部署服务中运行的任务不会保存其中的状态,每次启动是基于选择的镜像启动的,镜像没变化则启动后都一样,但挂载的对象存储加速卷或共享存储卷中保存的内容是可以被持久化的
- 镜像下载时间
第一次启动任务时镜像从公网下载,启动耗时相对较长,同一个集群内会建立缓存,减少后续任务启动时间
- 节点扩缩容与链接的负载均衡模式
弹性部署服务中任务若为多节点,端口链接默认是轮询的负载均衡模式
- 终端页面不会保存上一个 shell 页面
点开终端执行的操作记录是标准页面的 bash,如果执行了前台的命令,页面关闭后进程不会保持,后续也无法再进入此 bash,而是进入一个新的 bash