GPT-OSS 모델
Apache 2.0 라이선스의 오픈 웨이트 추론 모델
GPT-OSS 120B 및 20B 모델의 기술 사양, 기능 및 배포 옵션을 살펴보세요.
모델 개요
GPT-OSS 120B
Flagship
1200억 개의 매개변수를 가진 플래그십 모델로, 추론, 코딩 및 수학에서 최첨단 성능을 제공합니다.
1200억 매개변수
Parameters
131k 컨텍스트 윈도우
Context
Apache 2.0
License
GPT-OSS 20B
Edge Optimized
200억 개의 매개변수로 엣지 배포에 최적화되어, 낮은 리소스 요구사항으로 우수한 성능을 유지합니다.
200억 매개변수
Parameters
131k 컨텍스트 윈도우
Context
Apache 2.0
License
모델 아키텍처
두 모델 모두 최첨단 기능을 갖춘 고급 Mixture of Experts (MoE) 아키텍처를 특징으로 합니다.
Mixture of Experts
효율적인 계산을 위한 Top-4 라우팅을 가진 128개 전문가
확장된 컨텍스트
RoPE 기술을 사용한 131k 토큰 컨텍스트 윈도우
Chain-of-Thought
단계별 문제 해결을 통한 고급 추론 기능
도구 통합
함수 호출 및 도구 사용에 대한 네이티브 지원
모델 기능
여러 도메인과 벤치마크에 걸친 포괄적인 평가.
| Benchmark | Description | GPT-OSS 120B | GPT-OSS 20B |
|---|---|---|---|
| MMLU | 대규모 멀티태스크 언어 이해 | 85% | 78% |
| Codeforces | 경쟁 프로그래밍 챌린지 | 2622 | 2516 |
| AIME 2024 | 미국 수학 초청 시험 | 우수 | 양호 |
| HealthBench | 의료 및 건강관리 평가 | 탁월 | 우수 |
배포 옵션
인프라 요구사항에 맞는 다양한 배포 옵션.
Ollama
원 커맨드 설정으로 간단한 로컬 배포
ollama run gpt-oss:120bVLLM
프로덕션 워크로드를 위한 고성능 추론
vllm serve openai/gpt-oss-120bHugging Face
transformers 라이브러리와의 직접 통합
from transformers import AutoModelForCausalLMDocker
클라우드 환경을 위한 컨테이너화된 배포
docker run -p 8000:8000 gpt-oss:120b