GPT-OSS LiveGPT-OSS Live
Документация

Документация

Всё что нужно для начала работы с GPT-OSS

Исчерпывающие руководства, справочники API и учебные материалы для эффективного развертывания и использования моделей GPT-OSS.

Быстрый старт
Запустите GPT-OSS за несколько минут
1

Установка зависимостей

Настройте среду с необходимыми пакетами

pip install transformers torch accelerate
2

Загрузка модели

Инициализируйте модель GPT-OSS в вашем приложении

from transformers import AutoModelForCausalLM, AutoTokenizer
3

Генерация текста

Начните генерировать текст с помощью модели

output = model.generate(input_ids, max_length=100)

Руководство по установке

Несколько способов установки и развертывания моделей GPT-OSS

Ollama
Самый простой способ запуска GPT-OSS локально
  1. Установите Ollama с ollama.ai
  2. Выполните: ollama pull gpt-oss:120b
  3. Начните чат: ollama run gpt-oss:120b
Hugging Face
Использование с библиотекой transformers
  1. pip install transformers torch
  2. Загрузка модели: AutoModelForCausalLM.from_pretrained('openai/gpt-oss-120b')
  3. Генерация текста с моделью
VLLM
Высокопроизводительный сервер вывода
  1. pip install vllm
  2. vllm serve openai/gpt-oss-120b
  3. Использование OpenAI-совместимого API
Docker
Контейнеризованное развертывание
  1. docker pull gpt-oss:120b
  2. docker run -p 8000:8000 gpt-oss:120b
  3. Доступ через HTTP API
Справочник API
Полная документация API для моделей GPT-OSS
POST
/v1/chat/completions

Создать завершение чата

Parameters:

messages
array
Required
Список сообщений в разговоре
model
string
Required
Модель для завершения
max_tokens
integer
Максимальное количество токенов для генерации
temperature
number
Температура выборки (0-2)
POST
/v1/completions

Создать завершение текста

Parameters:

prompt
string
Required
Текстовый промпт для завершения
model
string
Required
Модель для завершения
max_tokens
integer
Максимальное количество токенов для генерации

Готовы к разработке?

Начните создавать удивительные приложения с моделями GPT-OSS уже сегодня.

Посмотреть примерыПрисоединиться к сообществу
Документация GPT-OSS