시작하기
배포 옵션을 사용하면 이미지 템플릿, 스토리지 볼륨 및 관련 구성을 사용하여 DevPod 인스턴스를 생성할 수 있습니다.
DevPod 구성
적절한 DevPod 인스턴스를 계획하는 것은 DevPod 배포에서 중요한 단계입니다. GPU 및 스토리지 볼륨의 선택은 프로젝트의 성능과 효율성에 크게 영향을 미칠 수 있습니다. 이 페이지는 DevPod 사양을 구성하는 방법에 대한 지침을 제공합니다. 그러나 이것은 일반적인 지침일 뿐입니다. 특정 요구 사항을 염두에 두고 그에 따라 계획하세요.
모델의 특정 리소스 요구 사항을 이해하는 것이 중요합니다. 일반적으로 Hugging Face와 같은 플랫폼의 모델 카드 설명이나 config.json 모델 파일에서 자세한 정보를 찾을 수 있습니다.
모델의 특정 리소스 요구 사항을 평가하고 계산하는 데 도움이 되는 몇 가지 도구가 있습니다:
이러한 도구와 리소스를 사용하면 DevPod에서 집중해야 할 측면을 보다 명확하게 이해할 수 있습니다.
새 DevPod 생성
-
DevPods로 이동하여 + 배포를 선택하세요.
-
DevPod를 배포할 지역을 선택하세요.
-
네트워크 볼륨을 지정하세요(선택 사항).
-
인스턴스 유형을 선택하세요. 예: H100 SXM.
-
이미지(템플릿)를 선택하세요.
-
DevPod의 정상 작동에 필요한 리소스를 구성하세요.
-
구성을 검토하고 온디맨드 배포를 선택하세요.
DevPod 빌드가 완료된 후 요금이 부과됩니다.
DevPod 액세스
DevPod를 생성하고 인스턴스가 정상적으로 작동할 때까지 기다린 후, 인스턴스 오른쪽의 드롭다운 상자를 클릭하여 DevPod의 세부 정보를 표시하세요. 그런 다음 "연결" 버튼을 클릭하면 표시 상자가 나타납니다. 필요에 따라 HTTPS 액세스, TCP(SSH) 액세스 또는 Web Terminal을 선택할 수 있습니다.
자주 묻는 질문
SSH 공개 키를 업로드하는 방법은?
설정 -> SSH 공개 키 페이지에서 공개 키를 붙여넣고 공개 키 업데이트를 클릭하여 SSH 공개 키를 업로드하거나 업데이트하세요.
SSH를 통해 액세스하는 방법은?
SSH 액세스를 지원하는 일부 이미지의 경우, devpod 생성 시 SSH 액세스가 활성화되면 연결 -> TCP 포트 매핑 팝업 창에서 SSH 액세스 주소를 얻고 아래 그림과 같이 ssh -p {port} root@{host ip} 명령을 통해 액세스할 수 있습니다.
Jupyter를 통해 액세스하는 방법은?
Jupyter 액세스를 지원하는 일부 이미지의 경우, devpod 생성 시 Jupyter 액세스가 활성화되면 연결 -> 연결 옵션 팝업 창에서 Jupyter 액세스 주소를 얻을 수 있습니다. "HTTP 서비스에 연결 [포트 8888]" 버튼을 클릭하면 아래 그림과 같이 Jupyter 웹 페이지로 리디렉션됩니다.
HTTP 또는 TCP 포트를 노출하는 방법은?
devpod 작업을 생성할 때 필요에 따라 노출할 HTTP 또는 TCP 포트를 입력할 수 있습니다. 여러 포트는 ,로 구분해야 하며, 아래 그림과 같습니다.
devpod를 생성할 때 SSH Terminal Access와 Start Jupyter Notebook이 비활성화되는 이유는?
현재 이 두 옵션은 특수 이미지에만 활성화되며 모든 이미지에 활성화되지 않습니다. 지원되는 이미지는 다음과 같습니다:
- docker.io/gpucloud/pytorch:2.4.1-python3.11-cuda12.4.1-devel-ubuntu22.04
- docker.io/gpucloud/pytorch:2.4.0-python3.11-cuda12.4.1-devel-ubuntu22.04
- docker.io/gpucloud/tensorflow:2.17.0-python3.11-cuda12.3.1-ubuntu22.04-devel
- docker.io/gpucloud/tensorflow:2.14.0-python3.11-cuda11.8.0-ubuntu22.04-devel
- docker.io/gpucloud/finetuning:axolotl-py3.11-torch2.6-cu12.4
- docker.io/gpucloud/finetuning:torchtune-py3.11-torch2.8-cu12.8
또한 SSH Terminal Access를 활성화하려면 사전에 SSH 공개 키를 업로드해야 합니다.