运维、安全与交付
开发工具
问:是否可以通过这些工具使用 GPU?
答:可以。用户可以创建开发 IDE,并选择所需的 CPU/NPU 资源规格。
分布式能力
问:分布式模型训练 / 推理
答:支持。
问:RAY 框架支持
答:支持。
监控
问:如何采集监控指标?
答:NPU/GPU 卡指标通过 NPU exporter 或 DCGM exporter 采集。CPU、内存和临时磁盘指标通过 Kubernetes Metrics Server 采集。
问:NVIDIA 有 DCGM 指标和 Nsight 等调试工具。HCS 上对应方案是什么?
答:当 GPU 节点被纳管时,会部署 DCGM exporter。
问:如何观察卡级指标?
答:卡级指标通过 NPU exporter 或 DCGM exporter 采集。
AI 安全
问:是否有 HCS 平台专用的 AI 安全方案?
答:默认不提供。平台可以集成第三方 AI 安全解决方案。
可集成的安全能力包括:
- 模型扫描
- Guardrail
- LLM 防火墙
- 数据脱敏
- 合规