Was sind Rate Limits (RPM/TPM)?
Rate Limits dienen Ihrem persönlichen Schutz: Sie verhindern, dass eine Fehlbedienung der API zu unkontrollierten Kosten führt. Zugleich schützen sie die Infrastruktur und sorgen für eine faire Ressourcenverteilung.
Definitionen
Abschnitt betitelt „Definitionen“| Limit | Bedeutung |
|---|---|
| RPM (Requests per Minute) | Maximale API-Aufrufe pro Minute |
| TPM (Tokens per Minute) | Maximale Tokens pro Minute (Input + Output) |
Staffelung
Abschnitt betitelt „Staffelung“- Basis-Limits: für PoCs und kleinere Projekte, ohne Commitment
- Erhöhte Limits: mit Commitment, skalierbar nach Bedarf
Wenn Sie ein Limit erreichen, ist das kein Fehler, sondern der Schutzmechanismus greift. Für höhere Limits sprechen Sie einfach mit Ihrer Ansprechperson bei noris.