快速开始
Deploy 选项允许用户使用镜像模板、存储卷和相关配置创建 DevPod 实例。
配置 DevPod
规划合适的 DevPod 实例是部署 DevPod 的关键步骤。GPU 和存储卷的选择可以显著影响项目的性能和效率。本页面提供有关如何配置 DevPod 规格的指导。但是,这些只是一般性指南。请记住您的具体需求并相应地进行规划。
了解模型的具体资源需求至关重要。通常,您可以在 Hugging Face 等平台上的模型卡描述中或 config.json 模型文件中找到详细信息。
有一些工具可以帮助您评估和计算模型的具体资源需求,例如:
使用这些工具和资源应该能让您更清楚地了解 DevPod 中需要关注的方面。
创建新的 DevPods
-
导航到 DevPods 并选择 + Deploy。
-
选择部署 DevPod 的区域。
-
指定网络卷(可选)。
-
选择实例类型。例如,H100 SXM。
-
选择镜像(模板)。
-
配置 DevPod 正常运行所需的资源。
-
查看您的配置并选择 Deploy On-Demand。
DevPod 构建完成后开始计费。
访问 DevPod
创建 DevPod 并等待实例正常运行后,点击实例右侧的下拉框显示 DevPod 的详细信息。然后点击 "Connect" 按钮,将弹出显示框。根据您的需求,您可以选择 HTTPS 访问、TCP (SSH) 访问或 Web Terminal。
常见问题
如何上传 SSH 公钥?
在 Settings -> SSH Public Key 页面,粘贴您的公钥并点击 Update Public Key 以上传或更新 SSH 公钥。
如何通过 SSH 访问?
对于一些支持 SSH 访问的镜像,并且在创建 devpod 时启用了 SSH 访问,您可以在 Connect -> TCP Port Mappings 弹出窗口中获取 SSH 访问地址,并通过 ssh -p {port} root@{host ip} 命令访问,如下图所示。
如何通过 Jupyter 访问?
对于一些支持 Jupyter 访问的镜像,并且在创建 devpod 时启用了 Jupyter 访问,您可以在 Connect -> Connection Options 弹出窗口中获取 Jupyter 访问地址。点击 "Connect to HTTP Service [Port 8888]" 按钮将重定向到 Jupyter 网页,如下图所示。
如何暴露 HTTP 或 TCP 端口
创建 devpod 任务时,您可以根据需要填写要暴露的 HTTP 或 TCP 端口。多个端口应使用 , 分隔,如下图所示。
创建 devpod 时,为什么 SSH Terminal Access 和 Start Jupyter Notebook 有时被禁用?
目前,这两个选项仅对特殊镜像启用,并非所有镜像都支持。支持的镜像如下:
- docker.io/gpucloud/pytorch:2.4.1-python3.11-cuda12.4.1-devel-ubuntu22.04
- docker.io/gpucloud/pytorch:2.4.0-python3.11-cuda12.4.1-devel-ubuntu22.04
- docker.io/gpucloud/tensorflow:2.17.0-python3.11-cuda12.3.1-ubuntu22.04-devel
- docker.io/gpucloud/tensorflow:2.14.0-python3.11-cuda11.8.0-ubuntu22.04-devel
- docker.io/gpucloud/finetuning:axolotl-py3.11-torch2.6-cu12.4
- docker.io/gpucloud/finetuning:torchtune-py3.11-torch2.8-cu12.8
此外,启用 SSH Terminal Access 需要提前上传 SSH 公钥。