Schnellstart

Die Data Plane von Kontinent ist OpenAI-kompatibel. Wenn Sie bereits mit OpenAI kommunizieren, ändern Sie nur zwei Dinge: die Basis-URL und den API-Schlüssel.

1. Basis-URL und Schlüssel setzen

1
import OpenAI from "openai";
2
3
const client = new OpenAI({
4
  baseURL: "https://api.kontinent.ai/v1",
5
  apiKey: process.env.KONTINENT_API_KEY, // sk-kt-…
6
});

2. Eine Chat-Completion senden

1
const res = await client.chat.completions.create({
2
  model: "mistral/mistral-large-latest",
3
  messages: [{ role: "user", content: "Hallo!" }],
4
});
5
console.log(res.choices[0].message.content);

3. Die Antwort streamen

Setzen Sie stream: true, um Server-Sent Events zu empfangen, während das Modell generiert.

1
const stream = await client.chat.completions.create({
2
  model: "mistral/mistral-small-latest",
3
  messages: [{ role: "user", content: "Write a haiku about Europe." }],
4
  stream: true,
5
});
6
7
for await (const chunk of stream) {
8
  process.stdout.write(chunk.choices[0]?.delta?.content ?? "");
9
}

Siehe Streaming für das SSE-Wire-Format und das Timeout-Verhalten.

Nächste Schritte