GPT-OSS LiveGPT-OSS Live
文档

文档

开始使用 GPT-OSS 所需的一切

全面的指南、API 参考和教程，帮助您有效地部署和使用 GPT-OSS 模型。

快速开始
几分钟内启动并运行 GPT-OSS
1

安装依赖

使用所需的包设置您的环境

pip install transformers torch accelerate
2

加载模型

在您的应用程序中初始化 GPT-OSS 模型

from transformers import AutoModelForCausalLM, AutoTokenizer
3

生成文本

开始使用您的模型生成文本

output = model.generate(input_ids, max_length=100)

安装指南

安装和部署 GPT-OSS 模型的多种方式

Ollama
本地运行 GPT-OSS 的最简单方式
  1. 从 ollama.ai 安装 Ollama
  2. 运行：ollama pull gpt-oss:120b
  3. 开始聊天：ollama run gpt-oss:120b
Hugging Face
与 transformers 库一起使用
  1. pip install transformers torch
  2. 加载模型：AutoModelForCausalLM.from_pretrained('openai/gpt-oss-120b')
  3. 使用模型生成文本
VLLM
高性能推理服务器
  1. pip install vllm
  2. vllm serve openai/gpt-oss-120b
  3. 使用 OpenAI 兼容的 API
Docker
容器化部署
  1. docker pull gpt-oss:120b
  2. docker run -p 8000:8000 gpt-oss:120b
  3. 通过 HTTP API 访问
API 参考
GPT-OSS 模型的完整 API 文档
POST
/v1/chat/completions

创建聊天完成

Parameters:

messages
array
Required
对话中的消息列表
model
string
Required
用于完成的模型
max_tokens
integer
生成的最大令牌数
temperature
number
采样温度 (0-2)
POST
/v1/completions

创建文本完成

Parameters:

prompt
string
Required
要完成的文本提示
model
string
Required
用于完成的模型
max_tokens
integer
生成的最大令牌数

准备开始构建？

立即开始使用 GPT-OSS 模型构建令人惊叹的应用程序。

查看示例加入社区
GPT-OSS 文档