OpenAI-Compatible Endpoints Documentation

Autentificering og Base URL

Start med at generere din API-nøgle via dashboardet ved hjælp af din Google-konto eller e-mail. Tilføj denne nøgle til hver request-header som Authorization: Bearer YOUR_API_KEY. Basal URL er https://api.openaicompatibleendpoints.com/v1, hvilket sikrer, at din eksisterende klientkode fungerer uden ændringer. Du modtager én aktiv nøgle per konto, som du kan regenerere øjeblikkeligt, hvis den kompromitteres. Intet telefonnummer er påkrævet for tilmelding, hvilket holder processen hurtig og privat.

Første anmodning

Send en standard chat-completion-anmodning for at begynde at generere tekst med det samme. Dette bekræfter, at dine legitimationsoplysninger og tokenbalance er aktive, før du skalerer din arbejdsgang. Endepunktet accepterer standard JSON-payloads identiske med OpenAI-formatet, hvilket giver dig mulighed for at teste forbindelsen med minimal overhead.

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

Python SDK-integration

Installer den officielle OpenAI Python-pakke, og peg den på vores base URL for at udnytte velkendte mønstre. Denne tilgang fungerer sømløst med værktøjer som LangChain eller LlamaIndex, der forventer OpenAI-kompatible endpoints. Du kan skifte mellem modeller eller udbydere ved blot at opdatere konfigurationen af base URL uden at ændre din applikationslogik. Denne fleksibilitet er afgørende for bureauer, der styrer flere inference-pipelines.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK-brug

Initialiser Node.js-klienten med din base-URL og API-nøgle for at starte streaming- eller synkrone anmodninger. Denne opsætning efterligner det standard OpenAI-klientinterface, hvilket gør det nemt at integrere i Express- eller Fastify-applikationer. Du kan håndtere fejl pænt ved at tjekke statuskoderne returneret af serveren, hvilket sikrer, at din applikation forbliver robust under høj belastning.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming-svar (SSE)

Aktivér streaming ved at indstille stream parameter til true, hvilket returnerer data i realtid via Server-Sent Events. Dette reducerer den opfattede latens for slutbrugere, især ved generering af lange svar eller komplekse ræsonnementkæder. Hver chunk indeholder delvis indhold, hvilket giver dig mulighed for at gengive tekst progressivt i din grænseflade. Den sidste chunk indeholder de fulde tokenforbrugsstatistikker til præcis faktureringssporing.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Begrænsninger, fejl og kontekst

Din API-nøgle understøtter op til 300 anmodninger i minuttet og tillader 8 samtidige forbindelser. Hvis du overskrider disse grænser, returnerer serveren en 429-statuskode; utilstrækkelige midler udløser en 402-fejl, mens ugyldige nøgler resulterer i en 401. Modellen håndterer et kontekstvindue på 100.000 tokens, der kombinerer prompt og completion. Fejl og afslag forbruger ikke din forudbetalte kredit, hvilket sikrer, at du kun betaler for gyldig inference.