Schnellstart

Diese Anleitung zeigt den schnellsten Weg, um Ihre erste Anfrage an die noris “LLM as a Service”-Plattform zu senden. In wenigen Minuten erhalten Sie eine Antwort von einem großen Sprachmodell.

Voraussetzungen

• Ein gültiger API-Key für https://ai.noris.de/v1 (verfügbar gegen AI-Punkte).
• HTTPS-Konnektivität vom Client-System zum Endpunkt https://ai.noris.de.
• Optional: ein installierter HTTP-Client (curl) sowie eine Laufzeitumgebung für Python oder JavaScript/Node.js.

Die API ist vollständig OpenAI-kompatibel. Wenn Sie bereits das OpenAI-SDK nutzen, genügt es, Base URL, API-Key und Modell-Name anzupassen, siehe Migration von OpenAI.

curl

Der einfachste Aufruf erfolgt über einen HTTP-POST an den /chat/completions-Endpunkt. Ersetzen Sie YOUR_API_KEY durch Ihren persönlichen Schlüssel.

curl -X POST https://ai.noris.de/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model": "vllm/release/gpt-oss-120b",
    "messages": [{"role": "user", "content": "Hallo!"}]
  }'

Eine erfolgreiche Antwort liefert ein JSON-Objekt mit dem generierten Text unter choices[0].message.content.

Python

Für Python empfehlen wir das offizielle openai-SDK, das sich ohne Code-Änderungen gegen die noris-Plattform betreiben lässt. Installieren Sie es einmalig mit pip install openai.

from openai import OpenAI

client = OpenAI(
    base_url="https://ai.noris.de/v1",
    api_key="YOUR_API_KEY"
)

response = client.chat.completions.create(
    model="vllm/release/gpt-oss-120b",
    messages=[{"role": "user", "content": "Hallo!"}]
)
print(response.choices[0].message.content)

JavaScript

In Node.js oder im Browser können Sie die native fetch-API verwenden. Für serverseitige Anwendungen setzen Sie den API-Key niemals im Client-Code ein, sondern proxyen Sie die Anfragen über einen Backend-Dienst.

const response = await fetch("https://ai.noris.de/v1/chat/completions", {
  method: "POST",
  headers: {
    "Content-Type": "application/json",
    "Authorization": "Bearer YOUR_API_KEY"
  },
  body: JSON.stringify({
    model: "vllm/release/gpt-oss-120b",
    messages: [{role: "user", content: "Hallo!"}]
  })
});
const data = await response.json();
console.log(data.choices[0].message.content);

Nächste Schritte

Sie haben erfolgreich Ihre erste Anfrage gesendet. Ausgehend von hier empfiehlt sich folgende Reihenfolge:

• Text-Generierung (Chat Completions): System-Prompts und Multi-Turn-Gespräche verstehen.
• Streaming-Responses: Antworten tokenweise in Echtzeit ausgeben.
• Tool Calling (Function Calling): Das Modell Werkzeuge aufrufen lassen.
• RAG-Pipeline aufbauen: Eigene Dokumente einbinden mittels Embeddings und Reranking.