创建 GPU 实例
操作步骤
登录 zenConsole,进入 产品 > 虚拟机 > GPU & AI > GPU 云,并点击 创建 GPU 实例。
选择地域。 选择最近的地域以获得最佳性能。
选择您的使用场景和镜像。 选择一个可用的预构建环境,以便快速设置实例并安装必要的工具。
AI/ML 推理 预装 Ollama 镜像:
Llama 3.1:8b
,NvidiaDriver 550.90.07
,CUDA 12.6
,cuDNN 9.3.0
,Python 3.12.3
,Ollama 0.3.9
,JupyterLab 4.2.5
。适用于部署模型和运行推理任务。通用用途 预装 Ubuntu Server 24.04 LTS 镜像:
NvidiaDriver 550.90.07
,CUDA 12.6
,cuDNN 9.3.0
。适用于常规计算需求。
选择 GPU 型号。 选择 NVIDIA GeForce RTX 4090,配备 24 GiB 的 vRAM,确保高性能计算,具备 82+ TFLOPS 的 FP32 计算能力,非常适合要求苛刻的 AI 任务。
配置存储。
设置存储需求,选择经济型/标准型 NVMe SSD 以实现快速 I/O 操作。
管理实例访问。
添加 SSH 密钥对 以安全地访问您的实例。
使用默认用户 "ubuntu" 或创建自定义密码进行登录。
选择数量。 设置您要创建的实例数量,并为实例分配一个 资源名称。
更多设置。
选择您的 操作系统时区。
将资源分配到您希望的 资源组。
确认订单。 检查订单摘要并确认您的订单。
关键注意事项
地域和延迟:选择合适的地域对于减少延迟至关重要。选择最接近您用户群体或数据源的地域。
存储分配:确保根据您的工作负载需求分配足够的 NVMe SSD 存储。如果处理大型数据集,可能需要扩展存储。
安全性:
推荐使用 SSH 密钥对进行安全访问。
定期更新软件和补丁以维持安全性。
最后更新于