创建 GPU 实例

操作步骤

  1. 登录 zenConsole,进入 产品 > 虚拟机 > GPU & AI > GPU 云,并点击 创建 GPU 实例

  2. 选择地域。 选择最近的地域以获得最佳性能。

  3. 选择您的使用场景和镜像。 选择一个可用的预构建环境,以便快速设置实例并安装必要的工具。

    • AI/ML 推理 预装 Ollama 镜像:Llama 3.1:8b, NvidiaDriver 550.90.07, CUDA 12.6, cuDNN 9.3.0, Python 3.12.3, Ollama 0.3.9, JupyterLab 4.2.5。适用于部署模型和运行推理任务。

    • 通用用途 预装 Ubuntu Server 24.04 LTS 镜像:NvidiaDriver 550.90.07, CUDA 12.6, cuDNN 9.3.0。适用于常规计算需求。

  4. 选择 GPU 型号。 选择 NVIDIA GeForce RTX 4090,配备 24 GiB 的 vRAM,确保高性能计算,具备 82+ TFLOPS 的 FP32 计算能力,非常适合要求苛刻的 AI 任务。

  5. 配置存储

    设置存储需求,选择经济型/标准型 NVMe SSD 以实现快速 I/O 操作。

  6. 管理实例访问

    • 添加 SSH 密钥对 以安全地访问您的实例。

    • 使用默认用户 "ubuntu" 或创建自定义密码进行登录。

  7. 选择数量。 设置您要创建的实例数量,并为实例分配一个 资源名称

  8. 更多设置

    • 选择您的 操作系统时区

    • 将资源分配到您希望的 资源组

  9. 确认订单。 检查订单摘要并确认您的订单。

关键注意事项

  1. 地域和延迟:选择合适的地域对于减少延迟至关重要。选择最接近您用户群体或数据源的地域。

  2. 存储分配:确保根据您的工作负载需求分配足够的 NVMe SSD 存储。如果处理大型数据集,可能需要扩展存储。

  3. 安全性

    • 推荐使用 SSH 密钥对进行安全访问。

    • 定期更新软件和补丁以维持安全性。

Last updated