Dev Pods

はじめに

Deployオプションを使用すると、ユーザーはイメージテンプレート、ストレージボリューム、および関連する設定を使用してDevPodインスタンスを作成できます。

DevPodの設定

適切なDevPodインスタンスを計画することは、DevPodをデプロイする上で重要なステップです。GPUとストレージボリュームの選択は、プロジェクトのパフォーマンスと効率に大きく影響します。このページでは、DevPodの仕様を設定する方法についてのガイダンスを提供します。ただし、これらは一般的なガイドラインに過ぎません。特定の要件を念頭に置いて、それに応じて計画してください。

モデルの特定のリソース要件を理解することは非常に重要です。通常、Hugging Faceなどのプラットフォームのモデルカードの説明や、config.jsonモデルファイルで詳細情報を見つけることができます。

モデルの特定のリソース要件を評価および計算するのに役立つツールがいくつかあります:

これらのツールとリソースを使用することで、DevPodでどの側面に焦点を当てる必要があるかをより明確に理解できるはずです。

新しいDevPodsを作成する

  1. DevPodsに移動し、+ Deployを選択します。

  2. DevPodをデプロイするリージョンを選択します。

  3. Network volumeを指定します(オプション)。

  4. インスタンスタイプを選択します。例:H100 SXM。

  5. イメージ(テンプレート)を選択します。

  6. DevPodの正常な動作に必要なリソースを設定します。

  7. 設定を確認し、Deploy On-Demandを選択します。

DevPodのビルドが完了した後に課金が発生します。

DevPodへのアクセス

DevPodを作成してインスタンスが正常に動作するのを待った後、インスタンスの右側にあるドロップダウンボックスをクリックしてDevPodの詳細を表示します。次に、「Connect」ボタンをクリックすると、表示ボックスがポップアップ表示されます。ニーズに応じて、HTTPSアクセス、TCP(SSH)アクセス、またはWeb Terminalを選択できます。

よくある質問

SSH公開鍵をアップロードする方法は?

設定 -> SSH公開鍵ページで、公開鍵を貼り付けて公開鍵を更新をクリックして、SSH公開鍵をアップロードまたは更新します。

SSHでアクセスする方法は?

SSHアクセスをサポートする一部のイメージで、devpod作成時にSSHアクセスを有効にした場合、Connect -> TCP Port MappingsポップアップウィンドウでSSHアクセスアドレスを取得し、ssh -p {port} root@{host ip}コマンドでアクセスできます。下図を参照してください。

Jupyterでアクセスする方法は?

Jupyterアクセスをサポートする一部のイメージで、devpod作成時にJupyterアクセスを有効にした場合、Connect -> Connection OptionsポップアップウィンドウでJupyterアクセスアドレスを取得できます。「Connect to HTTP Service [Port 8888]」ボタンをクリックすると、Jupyterウェブページにリダイレクトされます。下図を参照してください。

HTTPまたはTCPポートを公開する方法は?

devpodジョブを作成する際、必要に応じて公開するHTTPまたはTCPポートを入力できます。複数のポートは,で区切る必要があります。下図を参照してください。

devpod作成時に、SSH Terminal AccessとStart Jupyter Notebookが無効になっていることがあるのはなぜですか?

現在、これら2つのオプションは特定のイメージでのみ有効になっており、すべてのイメージではありません。サポートされているイメージは次のとおりです:

  • docker.io/gpucloud/pytorch:2.4.1-python3.11-cuda12.4.1-devel-ubuntu22.04
  • docker.io/gpucloud/pytorch:2.4.0-python3.11-cuda12.4.1-devel-ubuntu22.04
  • docker.io/gpucloud/tensorflow:2.17.0-python3.11-cuda12.3.1-ubuntu22.04-devel
  • docker.io/gpucloud/tensorflow:2.14.0-python3.11-cuda11.8.0-ubuntu22.04-devel
  • docker.io/gpucloud/finetuning:axolotl-py3.11-torch2.6-cu12.4
  • docker.io/gpucloud/finetuning:torchtune-py3.11-torch2.8-cu12.8

さらに、SSH Terminal Accessを有効にするには、事前にSSH公開鍵をアップロードする必要があります。