モデル別実行レシピ
最終更新
Groqの無料APIでGPT-OSSを試す: アカウント準備から最初の応答まで
短いコードレビューを送り、Groq APIの接続と無料枠の上限を確認します。
GroqCloudは公開ウェイトモデルをクラウドでホストし、API1経由で応答を返します。GPT-OSS 20BへのPythonリクエスト、公開されている無料上限、安全なキー入力、応答終了条件、データ保持条件を説明します。
Groq APIで公開ウェイトモデルにリクエストします
Groq APIは会話メッセージとモデルIDをHTTPSリクエストで送り、GroqCloudがホストするモデルの回答を返すサービスです。ここではPythonからopenai/gpt-oss-20bに短いコードレビューを依頼し、回答テキストと終了状態を読み取ります。
GPT-OSS 20Bと120BはApache 2.0ライセンスでウェイトが公開されており、自分のコンピューターでも実行できます。GroqCloud APIでは、openai/gpt-oss-20bとopenai/gpt-oss-120bというモデルIDでホスト推論を呼び出します。OpenAIの公開ウェイトモデル案内とGPT-OSS 20Bモデルカード
Free Planの上限からモデルを選ぶ
Groqが公開するFree Planの概要では、2つのGPT-OSSモデルのリクエスト数とトークン2上限は同じです。RPMは1分あたりのリクエスト数、RPDは1日あたり、TPMは1分あたりのトークン数、TPDは1日あたりのトークン数です。
この無料枠の表は組織単位の公開概要です。アカウントに適用される現在の値はGroq ConsoleのLimits画面で確認してください。入力と生成結果を合わせて1分あたり8Kトークンの枠を使うため、長いファイル全体ではなく、該当する関数とエラー説明から送るとよいでしょう。
| モデルID | リクエスト上限 | トークン上限 |
|---|---|---|
openai/gpt-oss-20b | 30 RPM / 1K RPD | 8K TPM / 200K TPD |
openai/gpt-oss-120b | 30 RPM / 1K RPD | 8K TPM / 200K TPD |
アカウントとAPIキーを準備する
GroqCloudアカウントでFree Planの表示を確認し、API Keysからキーを作成します。Groqによると、有料のDeveloperプランへアップグレードするには支払い方法が必要です。無料枠で始めるときはアカウントのプラン表示を確認し、支払いやアップグレード画面が出た場合は、意図した利用条件か確かめてから進めてください。Groqの請求案内
以下のインストールコマンドはmacOSまたはLinuxのシェル向けです。APIキーはコードに書かず、実行時の非表示入力で渡すと、コマンド履歴やソースファイルに残りません。次の節で例を保存した後も、仮想環境3を有効にした同じ端末でpython groq_review.pyを実行してください。別のPython環境から実行すると、インストール済みのgroqパッケージが見つからないことがあります。
python3 -m venv .venv
source .venv/bin/activate
python -m pip install groq短いコードレビューを送る
以下をgroq_review.pyとして保存して実行します。getpassはAPIキーを画面に表示せずに受け取り、その後SDKがchat completionsエンドポイントへJSONリクエストを送信します。
from getpass import getpass
from groq import Groq
client = Groq(api_key=getpass("Groq API key: "))
completion = client.chat.completions.create(
model="openai/gpt-oss-20b",
messages=[
{
"role": "user",
"content": (
"Review this function for the empty-list edge case and suggest a fix:\n\n"
"def average(values):\n"
" return sum(values) / len(values)"
),
}
],
reasoning_effort="low",
include_reasoning=False,
max_completion_tokens=2048,
)
choice = completion.choices[0]
print(choice.message.content or "(No final text was returned)")
print(f"finish_reason={choice.finish_reason}")
print(f"completion_tokens={completion.usage.completion_tokens}")
if choice.finish_reason == "length" and not choice.message.content:
print("The token limit may have been used before final text; shorten the request or raise max_completion_tokens.")python groq_review.py
応答本文と終了状態をあわせて読む
正常な応答ではchoices[0].message.contentにコードレビュー文が入り、finish_reason=stopならモデルが回答を完了しています。出力はモデルが生成した文章なので、変更を適用する前に実際の入力と関数の動作に照らして読んでください。
finish_reason=lengthは設定した生成トークン上限に達したことを示します。GPT-OSSはreasoningにも応答トークン予算を使うため、最終文が空なら依頼を短くするか、max_completion_tokensを増やして再試行します。8K TPMの上限を考慮し、出力上限は必要な回答の長さに合わせてください。
認証・モデル・上限エラーを見分ける
401の場合はキーを再入力し、API Keysで有効なキーか確認します。400でモデルエラーが出たら、openai/gpt-oss-20bの表記を現在の対応モデル一覧と照合します。
429は、分または日単位のリクエスト数・トークン数のいずれかの上限に達したことを示します。retry-after、x-ratelimit-remaining-requests、x-ratelimit-remaining-tokensヘッダーを確認し、待ってから再送するか、入力・出力を短くします。Rate LimitsのドキュメントとConsole Limits画面で、上限の種類と残量を確認できます。
データ保持条件を見て利用場所を決める
Groqは通常のinference4リクエストの顧客入力と出力を、デフォルトでは保持しないと説明しています。サービス安定性の確認や不正利用の調査が必要な場合、入力・出力を最大30日間一時的に記録することがあり、利用量メタデータは別途収集します。Data ControlsでZero Data Retentionを設定でき、Groqのデータ案内では保存が必要な機能との関係も説明されています。
機密性の高い社内コードや顧客情報を送る場合は、まず組織の転送・処理ルールを確認し、必要な部分だけをリクエストに含めます。インターネット接続なしで自分のコンピューター上で処理する必要があれば、公開ウェイトをダウンロードしてローカルランタイム5を使い、モデルファイルを自分で扱わずにホストAPIを試す場合はGroqCloudを利用します。他社の条件は無料オープンウェイトAIサービス案内で比較できます。
用語の注釈
API — 別のコードからプログラムの機能を呼び出すための決められたインターフェースです。
本文に戻るトークン — モデルが入力や出力を分けて処理する単位です。
本文に戻るPython仮想環境 — プロジェクトごとにPythonパッケージを分けて導入する環境です。パッケージのバージョンの衝突を減らせます。
本文に戻るモデル推論 — 学習済みモデルを使って入力に対する出力を計算する処理です。このサイトではローカル推論は利用者の端末でモデルを実行することを指します。
本文に戻るランタイム — プログラムの実行時に必要な機能を提供するソフトウェア環境です。ローカルAIではモデル実行エンジンを指すこともあります。
本文に戻る
よくある質問
- この記事で最初に確認すべきことは何ですか？
- GroqCloudは公開ウェイトモデルをクラウドでホストし、API経由で応答を返します。GPT-OSS 20BへのPythonリクエスト、公開されている無料上限、安全なキー入力、応答終了条件、データ保持条件を説明します。
- 条件と出典はどこで確認できますか？
- GPT-OSS 20Bと120BはApache 2.0ライセンスでウェイトが公開されており、自分のコンピューターでも実行できます。GroqCloud APIでは、`openai/gpt-oss-20b`と`openai/gpt-oss-120b`というモデルIDでホスト推論を呼び出します。[OpenAIの公開ウェイトモデル案内](https://help.openai.com/en/articles/11870455-openai-open-weight-models)と[GPT-OSS 20Bモデルカード](https://huggingface.co/openai/gpt-oss-20b)