GPT-OSS LiveGPT-OSS Live

Leistungs-Benchmarks

Modernste Ergebnisse über mehrere Bewertungsdomänen

Erkunden Sie detaillierte Leistungsmetriken und Vergleiche für GPT-OSS Modelle über Reasoning, Coding, Mathematik und spezialisierte Domänen.

Leistungsübersicht

GPT-OSS Modelle zeigen außergewöhnliche Leistung über diverse Benchmarks und setzen neue Standards für Open-Weight Sprachmodelle.

85%
MMLU Score
GPT-OSS 120B
2622
Codeforces Rating
Competitive Programming
131k
Kontext-Länge
Erweitertes Kontext-Fenster
Apache 2.0
Lizenz
Vollständig Open Source

Detaillierte Benchmarks

Umfassende Bewertung über mehrere Domänen und Aufgaben.

Sprachverständnis
Allgemeines Sprachverständnis und Reasoning-Aufgaben
BenchmarkDescriptionGPT-OSS 120BGPT-OSS 20BBaseline
MMLUMassive Multitask Language Understanding
85.2%
78.4%
Claude-3.5: 88.3%
HellaSwagGesunder Menschenverstand über alltägliche Ereignisse
87.6%
84.1%
GPT-4: 89.2%
ARC ChallengeGrundschul-Wissenschaftsfragen
92.3%
88.7%
GPT-4: 93.1%
Mathematisches Reasoning
Mathematische Problemlösung und logisches Denken
BenchmarkDescriptionGPT-OSS 120BGPT-OSS 20BBaseline
GSM8KGrundschul-Mathematik Textaufgaben
91.7%
87.2%
GPT-4: 92.0%
MATHWettbewerbs-Mathematik
76.4%
68.9%
GPT-4: 77.2%
AIME 2024American Invitational Mathematics Examination
13.3/15
11.7/15
GPT-4: 14.1/15
Code-Generierung
Programmierung und Softwareentwicklungsaufgaben
BenchmarkDescriptionGPT-OSS 120BGPT-OSS 20BBaseline
HumanEvalPython-Programmierprobleme
89.6%
84.2%
GPT-4: 90.2%
MBPPMostly Basic Python Problems
86.8%
81.4%
GPT-4: 87.5%
CodeforcesCompetitive Programming Rating
2622
2516
GPT-4: 2697
Spezialisierte Domänen
Domänen-spezifisches Wissen und Reasoning
BenchmarkDescriptionGPT-OSS 120BGPT-OSS 20BBaseline
HealthBenchMedizinisches und Gesundheitswissen
82.4%
78.9%
GPT-4: 84.1%
LegalBenchRechtliches Reasoning und Analyse
79.6%
74.2%
GPT-4: 81.3%
ScienceQAWissenschaftliches Reasoning und Wissen
88.7%
85.1%
GPT-4: 89.9%

Effizienz-Metriken

Leistung pro Parameter und Recheneffizienz-Analyse.

Inferenz-Geschwindigkeit
Token pro Sekunde auf Standard-Hardware
GPT-OSS 120B45 tokens/s
GPT-OSS 20B128 tokens/s
Hardware: A100 80GB
Speicherverbrauch
Spitzen-Speicherverbrauch während der Inferenz
GPT-OSS 120B240 GB
GPT-OSS 20B48 GB
Hardware: FP16 Präzision
Trainings-Effizienz
FLOPs pro Parameter während des Trainings
GPT-OSS 120B2.1e21
GPT-OSS 20B3.5e20
Hardware: H100 Cluster

Bewertungsmethodik

Unser umfassender Bewertungsansatz gewährleistet faire und reproduzierbare Ergebnisse.

1

Standardisierte Protokolle

Alle Bewertungen folgen etablierten Benchmark-Protokollen und Bewertungsmethoden.

2

Mehrfache Durchläufe

Ergebnisse über mehrere Bewertungsdurchläufe gemittelt für statistische Signifikanz.

3

Fairer Vergleich

Konsistente Bewertungsbedingungen für alle Modelle und Benchmarks.

4

Transparenz

Detaillierte Methodik und Bewertungscode für Reproduzierbarkeit verfügbar.

Modell-Vergleich

Wie GPT-OSS Modelle im Vergleich zu anderen führenden Sprachmodellen abschneiden.

Alle Benchmarks unter standardisierten Bedingungen mit konsistenten Bewertungsprotokollen durchgeführt.

Erleben Sie die Leistung

Bereit, diese Fähigkeiten zu nutzen? Deployen Sie GPT-OSS Modelle und sehen Sie die Leistung selbst.