GPT-OSS 模型
采用 Apache 2.0 许可证的开放权重推理模型
探索 GPT-OSS 120B 和 20B 模型的技术规格、功能和部署选项。
模型概览
GPT-OSS 120B
Flagship
我们的旗舰模型，拥有 1200 亿参数，在推理、编程和数学方面提供最先进的性能。
1200 亿参数
Parameters
131k 上下文
Context
Apache 2.0
License
GPT-OSS 20B
Edge Optimized
针对边缘部署优化，拥有 200 亿参数，在较低资源需求下保持出色性能。
200 亿参数
Parameters
131k 上下文
Context
Apache 2.0
License
模型架构
两个模型都采用先进的专家混合（MoE）架构，具备前沿功能。
专家混合
128 个专家，Top-4 路由实现高效计算
扩展上下文
使用 RoPE 技术的 131k 令牌上下文
思维链推理
具备逐步问题解决的高级推理能力
工具集成
原生支持函数调用和工具使用
模型能力
跨多个领域和基准的综合评估。
| Benchmark | Description | GPT-OSS 120B | GPT-OSS 20B |
|---|---|---|---|
| MMLU | 大规模多任务语言理解 | 85% | 78% |
| Codeforces | 竞技编程挑战 | 2622 | 2516 |
| AIME 2024 | 美国数学邀请赛 | 优秀 | 良好 |
| HealthBench | 医疗和健康评估 | 卓越 | 优秀 |
部署选项
多种部署选项以满足您的基础设施需求。
Ollama
一键设置的简单本地部署
ollama run gpt-oss:120bVLLM
生产工作负载的高性能推理
vllm serve openai/gpt-oss-120bHugging Face
与 transformers 库直接集成
from transformers import AutoModelForCausalLMDocker
云环境的容器化部署
docker run -p 8000:8000 gpt-oss:120b