Studiendatenbank · Laborexperiment
Nichtdeterminismus 'deterministischer' LLM-EinstellungenNon-Determinism of "Deterministic" LLM Settings
Auch deterministisch eingestellte Sprachmodelle liefern bei gleichen Läufen schwankende Genauigkeit und praktisch nie identische Texte.
5,3MFK-Score von 10 · Ergebnis: bestätigt
Die Zahlen
| bis 15 % | Schwankung der Genauigkeit zwischen identischen Läufen |
- Methode
- Fünf LLMs, acht Aufgaben, je zehn Läufe mit deterministischen Einstellungen.
- Datenbasis
- 5 Modelle (u. a. GPT-3.5/4o, Llama-3, Mixtral), 8 Aufgaben, 10 Läufe
- Einschränkungen und häufige Fehlzitate
- Preprint; Modelle von 2024; keine Markenempfehlungen untersucht.
- Interessenlage
- Akademisch mit Industrie-Mitautoren (Comcast)
- Quelle
- https://arxiv.org/abs/2408.04667 (frei zugänglich)
Im Podcast
- Folge 37 (erscheint demnächst)
Zitieren
bestätigtKI im MarketingMethodik & Marktforschung