ローカルAIガイド

購入前に、速度と費用を確かめる

モデル別実行レシピ

NVIDIA Nemotronの無料APIを試す: 開発用エンドポイントへ最初のリクエスト

無料の開発用エンドポイントへ短いPythonリクエストを送り、応答を確認します。

NVIDIA API1 Catalogでホストモデルを選び、PythonからモデルIDとAPIキーを使って質問を送り、回答を受け取ります。

目次
実行条件と要点
  • 現在のカタログでは、Nemotron 3.5 LightningにFree EndpointとDownload Availableの両方が表示されています。
  • ホストAPIの試用条件と、ダウンロードしたウェイトのOpenMDWライセンスは分けて確認します。

テキストを送るとホストモデルが回答を返します

NVIDIA API Catalogは、NVIDIAのサーバーで動くモデルをAPIから試せる開発者向けサービスです。カタログでモデルや例を探し、PythonにAPIキーとモデルIDを指定して質問を送れます。ここではNemotron 3.5 Lightningに短い質問を送り、回答とfinish_reasonを確認します。

ノートPCのチャット画面とモニターのコードの横に小型コンピューターが置かれている
Pythonの例では429エラーの意味と次に試すことを2項目で尋ね、モデルの回答をターミナルに表示します。

無料エンドポイントとモデル条件を確認します

現在のカタログページではnvidia/nemotron-3.5-lightning-30b-a3bにFree EndpointとDownload Availableが表示されています。ホストAPIで使うIDはnvidia/nemotron-3.5-lightning-30b-a3bです。公開ウェイトはHugging Faceでも確認できます。ホストエンドポイントにはAPI Trial Terms、モデル資料にはOpenMDW License 1.1がそれぞれ適用されます。

Nemotron 3.5 Lightningは、合計30Bのうち3Bがアクティブなテキストモデルです。モデルカードに明記された対応言語には英語や日本語などが含まれますが、韓国語は掲載されていません。韓国語の出力が必要な場合は、公開可能な短い入力で品質を確かめてください。

APIキーとPython環境を準備します

カタログのBuild画面でGenerate API Keyを選んでキーを作成し、パスワードマネージャーに保管します。このAPIはNVIDIAのサーバーで入力を処理します。NVIDIA API Trial Termsはサービス提供と改善のために入力や応答を利用する場合があると定め、機密・センシティブ・個人・健康・決済情報の入力を制限しています。以下の例では公開可能な短い文章を使います。

macOS/LinuxのシェルでPython仮想環境2を作成し、OpenAI互換SDKをインストールします。次の手順でquickstart.pyを保存し、同じターミナルから実行します。

仮想環境とOpenAI SDKを準備
python3 -m venv .venv
source .venv/bin/activate
python -m pip install --upgrade pip openai
この環境にSDKをインストールし、次のPythonファイルを実行します。
ロボットがノートPCを使い、開いたキャビネットには文書やネットワークを示す鍵が掛かっている
リクエストを送る前に、APIキーがどのサービスと権限に紐づいているか確認します。

短いリクエストを送り、終了状態を読み取ります

quickstart.pyはキーを画面に表示せず、実行時に入力を受け取ります。カタログのエンドポイントとモデルIDを指定し、429エラーの意味と次に試すことを2項目で説明するようモデルに尋ねます。コードはモデルの回答とfinish_reasonを表示します。max_tokensは生成トークン3の上限、reasoning_budgetは推論に使うトークンの上限を設定します。

NemotronエンドポイントにPythonリクエストを送る
# quickstart.py
from getpass import getpass
from openai import OpenAI

client = OpenAI(
    base_url="https://integrate.api.nvidia.com/v1",
    api_key=getpass("NVIDIA API key: "),
)

response = client.chat.completions.create(
    model="nvidia/nemotron-3.5-lightning-30b-a3b",
    messages=[{"role": "user", "content": "In two short bullets, explain what a 429 API error means and what to try next."}],
    max_tokens=8192,
    extra_body={"chat_template_kwargs": {"enable_thinking": True}, "reasoning_budget": 4096},
)

choice = response.choices[0]
if choice.message.content:
    print(choice.message.content)
else:
    print(f"No final text returned; finish_reason={choice.finish_reason}")
print(f"finish_reason={choice.finish_reason}")
`python quickstart.py`を実行すると、モデルの説明と`finish_reason`がターミナルに表示されます。
例を実行
python quickstart.py
応答テキストと終了状態を合わせて確認します。

キーのエラーと利用範囲を確認します

正常に実行されると、choice.message.contentにモデルの回答が入り、finish_reasonに生成の終了状態が表示されます。401ならカタログでキーを確認し、429なら少し待ってリクエスト間隔を空けて再試行します。モデルページでFree Endpointの状態とアカウントの利用可否を確認してください。

Developer ProgramのAPIエンドポイントは開発・テスト・評価向けです。公開資料に月間クレジットや保証リクエスト数の記載はなく、実ユーザー向けの運用サービスには別の利用経路が必要です。

机の上のモニターに会話画面とコードエディターが並んで表示されている。
ターミナルに回答文が表示されない場合は、まず`finish_reason`を確認しましょう。

用語の注釈

  1. API — 別のコードからプログラムの機能を呼び出すための決められたインターフェースです。

    本文に戻る

  2. Python仮想環境 — プロジェクトごとにPythonパッケージを分けて導入する環境です。パッケージのバージョンの衝突を減らせます。

    本文に戻る

  3. トークン — モデルが入力や出力を分けて処理する単位です。

    本文に戻る

よくある質問

この記事で最初に確認すべきことは何ですか？
NVIDIA API Catalogでホストモデルを選び、PythonからモデルIDとAPIキーを使って質問を送り、回答を受け取ります。