OpenAI-Compatible Endpunkte-Dokumentation

Authentifizierung und Base URL

Erstellen Sie zunächst Ihren API-Schlüssel über das Dashboard mit Ihrem Google-Konto oder Ihrer E-Mail. Hängen Sie diesen Schlüssel an jeden Anforderungsheader an als Authorization: Bearer YOUR_API_KEY. Die Basis-URL ist https://api.openaicompatibleendpoints.com/v1, sicherstellt, dass Ihr bestehender Client-Code ohne Modifikation funktioniert. Sie erhalten einen aktiven Key pro Konto, den Sie bei Kompromittierung sofort neu generieren können. Für die Anmeldung ist keine Telefonnummer erforderlich, was den Prozess schnell und privat hält.

Erste Anfrage

Senden Sie eine Standard-Chat-Vervollständigungsanfrage, um sofort mit der Textgenerierung zu beginnen. Dies bestätigt, dass Ihre Anmeldedaten und Ihr Token-Guthaben aktiv sind, bevor Sie Ihren Arbeitsablauf skalieren. Der Endpunkt akzeptiert Standard-JSON-Payloads, die identisch mit dem OpenAI-Format sind, sodass Sie die Konnektivität mit minimalem Aufwand testen können.

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

Python SDK-Integration

Installieren Sie das offizielle OpenAI-Python-Paket und verweisen Sie es auf unsere Basis-URL, um bewährte Muster zu nutzen. Dieser Ansatz funktioniert nahtlos mit Tools wie LangChain oder LlamaIndex, die OpenAI-kompatible Endpunkte erwarten. Sie können Modelle oder Anbieter wechseln, indem Sie einfach die Basis-URL-Konfiguration aktualisieren, ohne Ihre Anwendungslogik zu ändern. Diese Flexibilität ist entscheidend für Agenturen, die mehrere Inferenz-Pipelines verwalten.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK-Nutzung

Initialisieren Sie den Node.js-Client mit Ihrer Basis-URL und Ihrem API-Schlüssel, um Streaming- oder synchrone Anfragen zu starten. Dieses Setup spiegelt die Standard-Schnittstelle des OpenAI-Clients wider, was die Integration in Express- oder Fastify-Anwendungen erleichtert. Sie können Fehler durch das Überprüfen der vom Server zurückgegebenen Statuscodes angemessen behandeln, um die Robustheit Ihrer Anwendung auch bei hoher Last zu gewährleisten.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming-Antworten (SSE)

Aktivieren Sie das Streaming, indem Sie den stream Parameter auf true setzen, was Daten in Echtzeit über Server-Sent Events zurückgibt. Dies reduziert die wahrgenommene Latenz für Endbenutzer, insbesondere beim Generieren langer Antworten oder komplexer Reasoning-Ketten. Jeder Chunk enthält teilweise Inhalte, sodass Sie Text progressiv in Ihrer Schnittstelle rendern können. Der letzte Chunk enthält die vollständigen Token-Nutzungsstatistiken für eine genaue Abrechnungsnachverfolgung.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limits, Fehler und Kontext

Ihr API-Schlüssel unterstützt bis zu 300 Anfragen pro Minute und ermöglicht 8 gleichzeitige Verbindungen. Wenn Sie diese Grenzen überschreiten, gibt der Server einen 429-Statuscode zurück; Guthabenmangel löst einen 402-Fehler aus, während ungültige Schlüssel einen 401-Fehler ergeben. Das Modell verarbeitet ein Kontextfenster von 100.000 Token, das Prompt und Vervollständigung kombiniert. Fehler und Ablehnungen verbrauchen nicht Ihr Vorauszahlungsguthaben, sodass Sie nur für gültige Inferenzen bezahlen.