OpenAI-Compatible eindpuntdocumentatie

Authenticatie en basis-URL

Genereer eerst uw API-sleutel via het dashboard met uw Google-account of e-mail. Voeg deze sleutel toe aan elke request-header als Authorization: Bearer YOUR_API_KEY. De basis-URL is https://api.openaicompatibleendpoints.com/v1, waardoor je bestaande clientcode werkt zonder wijzigingen. Je ontvangt één actieve sleutel per account, die je onmiddellijk kunt regenereren als deze is gecompromitteerd. Er is geen telefoonnummer nodig voor registratie, waardoor het proces snel en privé blijft.

Eerste verzoek

Stuur een standaard chat-completion verzoek om onmiddellijk met tekstgeneratie te beginnen. Dit bevestigt dat uw referenties en tokenbalans actief zijn voordat u uw workflow opschalt. Het eindpunt accepteert standaard JSON-payloads die identiek zijn aan het OpenAI-formaat, zodat u de verbinding kunt testen met minimale overhead.

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

Python SDK Integratie

Installeer de officiële OpenAI Python-pakket en wijs het naar onze basis-URL om bekende patronen te benutten. Deze aanpak werkt naadloos met tools zoals LangChain of LlamaIndex die OpenAI-compatibele eindpunten verwachten. Je kunt van modellen of providers wisselen door eenvoudig de basis-URL-configuratie aan te passen zonder je applicatielogica te wijzigen. Deze flexibiliteit is cruciaal voor bureaus die meerdere inferentiepijplijnen beheren.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK-gebruik

Initialiseer de Node.js-client met je basis-URL en API-sleutel om met streaming- of synchronische verzoeken te beginnen. Deze configuratie lijkt op de standaard OpenAI-clientinterface, waardoor integratie in Express- of Fastify-applicaties eenvoudig is. Je kunt fouten afhandelen door de door de server teruggegeven statuscodes te controleren, waardoor je applicatie robuust blijft bij gebruik met hoge volumes.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming-responsen (SSE)

Schakel streamen in door de stream parameter naar true, wat data retourneert in real-time via Server-Sent Events. Dit vermindert de waargenomen latentie voor eindgebruikers, vooral bij het genereren van lange responsen of complexe redeneringsketens. Elke chunk bevat gedeeltelijke inhoud, waardoor je tekst progressief kunt renderen in je interface. De laatste chunk bevat de volledige tokenverbruiksstatistieken voor nauwkeurige facturatie.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limieten, fouten en context

Je API-sleutel ondersteunt maximaal 300 verzoeken per minuut en staat 8 gelijktijdige verbindingen toe. Als je deze limieten overschrijdt, retourneert de server een 429-statuscode; ontoereikend saldo leidt tot een 402-fout, terwijl ongeldige sleutels resulteren in een 401. Het model ondersteunt een contextvenster van 100,000 tokens, inclusief prompt en completion. Fouten en weigeringen verbruiken je vooruitbetaalde tegoed niet, zodat je alleen betaalt voor geldige inferentie.