Warum Temperatur 0 nicht 'immer gleich' heißtDefeating Nondeterminism in LLM Inference

He (Thinking Machines Lab) · Thinking Machines Lab (Blog) · 2025

Selbst bei Temperatur 0 lieferte derselbe Prompt in 1.000 Läufen 80 verschiedene Antworten, weil wechselnde Serverlast die Rechenreihenfolge ändert; mit speziellen Kernels waren alle identisch.

5,1MFK-Score von 10 · Ergebnis: bestätigt

Studiendesign4

Datenbasis2

Unabhängigkeit7

Replikation6

Übertragbarkeit7

Sauberes Mechanismus-Experiment, gestützt durch Atil et al.; nur ein Modell und Prompt. Die verbreitete Aussage hält der Prüfung stand. Wie der Score entsteht →

Die Zahlen

80	verschiedene Antworten bei 1.000 identischen Läufen mit Temperatur 0
78	Häufigkeit der häufigsten Antwort

Methode: Laborexperiment mit einem offenen Modell und einem Prompt; Vergleich mit batch-invarianten Kernels.
Datenbasis: Qwen3-235B, ein Prompt, 1.000 Läufe
Einschränkungen und häufige Fehlzitate: Zeigt den Mechanismus, nicht das Ausmaß bei ChatGPT & Co.
Interessenlage: KI-Forschungsfirma; kein Produktbezug zu Marketingmessung
Quelle: https://thinkingmachines.ai/blog/defeating-nondeterminism-in-llm-inference/ (frei zugänglich)

Im Podcast

Folge 37 (erscheint demnächst)

Zitieren

Marketing Facts Kompakt (Hrsg.): „Warum Temperatur 0 nicht 'immer gleich' heißt“. MFK-Studiendatenbank, Stand 2026-11-06. https://marketing-facts.de/studien/he-thinking-machines-nondeterminism-llm-inference-2025/

bestätigtKI im MarketingMethodik & Marktforschung

← Alle Studien