GPT-OSS LiveGPT-OSS Live
문서

문서

GPT-OSS 시작에 필요한 모든 것

GPT-OSS 모델을 효과적으로 배포하고 사용하는 데 도움이 되는 포괄적인 가이드, API 참조 및 튜토리얼.

빠른 시작
몇 분 안에 GPT-OSS 실행하기
1

종속성 설치

필요한 패키지로 환경 설정

pip install transformers torch accelerate
2

모델 로드

애플리케이션에서 GPT-OSS 모델 초기화

from transformers import AutoModelForCausalLM, AutoTokenizer
3

텍스트 생성

모델로 텍스트 생성 시작

output = model.generate(input_ids, max_length=100)

설치 가이드

GPT-OSS 모델을 설치하고 배포하는 여러 방법

Ollama
GPT-OSS를 로컬에서 실행하는 가장 간단한 방법
  1. ollama.ai에서 Ollama 설치
  2. 실행: ollama pull gpt-oss:120b
  3. 채팅 시작: ollama run gpt-oss:120b
Hugging Face
transformers 라이브러리와 함께 사용
  1. pip install transformers torch
  2. 모델 로드: AutoModelForCausalLM.from_pretrained('openai/gpt-oss-120b')
  3. 모델로 텍스트 생성
VLLM
고성능 추론 서버
  1. pip install vllm
  2. vllm serve openai/gpt-oss-120b
  3. OpenAI 호환 API 사용
Docker
컨테이너화된 배포
  1. docker pull gpt-oss:120b
  2. docker run -p 8000:8000 gpt-oss:120b
  3. HTTP API를 통해 액세스
API 참조
GPT-OSS 모델의 완전한 API 문서
POST
/v1/chat/completions

채팅 완성 생성

Parameters:

messages
array
Required
대화의 메시지 목록
model
string
Required
완성에 사용할 모델
max_tokens
integer
생성할 최대 토큰 수
temperature
number
샘플링 온도 (0-2)
POST
/v1/completions

텍스트 완성 생성

Parameters:

prompt
string
Required
완성할 텍스트 프롬프트
model
string
Required
완성에 사용할 모델
max_tokens
integer
생성할 최대 토큰 수

구축할 준비가 되셨나요?

오늘부터 GPT-OSS 모델로 놀라운 애플리케이션 구축을 시작하세요.

예제 보기커뮤니티 참여
GPT-OSS 문서