Was ist Temperature und welche Sampling-Parameter gibt es?
Temperature
Abschnitt betitelt „Temperature“Die Temperature steuert, wie deterministisch oder kreativ das Modell antwortet.
| Temperature | Verhalten | Typischer Anwendungsfall |
|---|---|---|
| 0.0 | Deterministisch: gleiche Frage → gleiche Antwort | Klassifikation, Code-Generierung, Faktenabfrage |
| 0.3 bis 0.7 | Leichte Variation, sachlich | Chat, Zusammenfassungen, Übersetzung |
| 0.8 bis 1.2 | Kreativ, mehrere valide Antworten | Brainstorming, kreatives Schreiben |
| >1.2 | Sehr chaotisch, oft unbrauchbar | Experimentell |
Weitere Parameter
Abschnitt betitelt „Weitere Parameter“- Top-P: berücksichtigt nur Kandidaten bis zur kumulierten Wahrscheinlichkeit P (nucleus sampling)
- Top-K: beschränkt die Auswahl auf die K wahrscheinlichsten Kandidaten
- Presence Penalty / Repetition Penalty: reduziert Wiederholungen im Output
Empfehlung
Abschnitt betitelt „Empfehlung“Für Produktivsysteme meist niedrige Temperature (0 bis 0.3) wählen. Die Standardwerte sind gut getestet und sollten nur bei konkretem Grund abgewichen werden.