ドキュメント
ドキュメント
GPT-OSS を始めるために必要なすべて
GPT-OSS モデルを効果的にデプロイし、使用するための包括的なガイド、API リファレンス、チュートリアル。
クイックスタート
数分で GPT-OSS を起動して実行
1
依存関係のインストール
必要なパッケージで環境をセットアップ
pip install transformers torch accelerate2
モデルの読み込み
アプリケーションで GPT-OSS モデルを初期化
from transformers import AutoModelForCausalLM, AutoTokenizer3
テキスト生成
モデルでテキスト生成を開始
output = model.generate(input_ids, max_length=100)インストールガイド
GPT-OSS モデルをインストールしてデプロイする複数の方法
Ollama
GPT-OSS をローカルで実行する最も簡単な方法
- ollama.ai から Ollama をインストール
- 実行:ollama pull gpt-oss:120b
- チャット開始:ollama run gpt-oss:120b
Hugging Face
transformers ライブラリと一緒に使用
- pip install transformers torch
- モデル読み込み:AutoModelForCausalLM.from_pretrained('openai/gpt-oss-120b')
- モデルでテキストを生成
VLLM
高性能推論サーバー
- pip install vllm
- vllm serve openai/gpt-oss-120b
- OpenAI 互換 API を使用
Docker
コンテナ化されたデプロイメント
- docker pull gpt-oss:120b
- docker run -p 8000:8000 gpt-oss:120b
- HTTP API 経由でアクセス
API リファレンス
GPT-OSS モデルの完全な API ドキュメント
POST
/v1/chat/completionsチャット補完を作成
Parameters:
messagesarray
Required
会話内のメッセージリストmodelstring
Required
補完に使用するモデルmax_tokensinteger
生成する最大トークン数temperaturenumber
サンプリング温度 (0-2)POST
/v1/completionsテキスト補完を作成
Parameters:
promptstring
Required
補完するテキストプロンプトmodelstring
Required
補完に使用するモデルmax_tokensinteger
生成する最大トークン数