Documentație Puncte finale Compatibil cu OpenAI

Autentificare și URL de bază

Începeți prin a genera cheia API prin panoul de control folosind contul Google sau e-mail. Adăugați această cheie la fiecare antet de solicitare ca Authorization: Bearer YOUR_API_KEY. URL-ul de bază este https://api.openaicompatibleendpoints.com/v1, asigurându-te că codul tău client existent funcționează fără modificări. Primești o singură cheie activă per cont, pe care o poți regenera instant dacă este compromisă. Nu este necesar un număr de telefon pentru înregistrare, menținând procesul rapid și privat.

Prima cerere

Trimiteți o solicitare standard de completare a chat-ului pentru a începe generarea textului imediat. Acest lucru confirmă că acreditările și soldul tokenilor sunt active înainte de a scala fluxul de lucru. Endpointul acceptă payload-uri JSON standard identice cu formatul OpenAI, permițându-vă să testați conectivitatea cu efort minim.

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

Integrare SDK Python

Instalează pachetul oficial Python OpenAI și indică-i URL-ul de bază al nostru pentru a profita de modelele familiare. Această abordare funcționează perfect cu instrumente precum LangChain sau LlamaIndex care așteaptă endpoint-uri compatibile cu OpenAI. Poți comuta între modele sau furnizori actualizând simplu configurația URL-ului de bază, fără a modifica logica aplicației. Această flexibilitate este crucială pentru agențiile care gestionează mai multe pipeline-uri de inferență.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Utilizare SDK Node

Inițializați clientul Node.js cu URL-ul tău de bază și cheia API pentru a începe solicitările de tip streaming sau sincrone. Această configurare imită interfața standard a clientului OpenAI, facilitând integrarea în aplicațiile Express sau Fastify. Poți gestiona erorile în mod elegant verificând codurile de status returnate de server, asigurând robustetea aplicației tale în timpul utilizării cu volum mare.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Răspunsuri în streaming (SSE)

Activați fluxul de date setând stream parametrul la true, care returnează date în timp real prin Evenimente trimise de server. Acest lucru reduce latența percepută pentru utilizatorii finali, în special când se generează răspunsuri lungi sau lanțuri complexe de raționament. Fiecare fragment conține conținut parțial, permițându-ți să redai textul progresiv în interfața ta. Fragmentul final include statistici complete de utilizare a tokenurilor pentru o facturare precisă.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limitări, Erori și Context

Cheia ta API suportă până la 300 de solicitări pe minut și permite 8 conexiuni concurrente. Dacă depășești aceste limite, serverul returnează un cod de stare 429; fondurile insuficiente declanșează o eroare 402, în timp cheile invalide rezultă într-o eroare 401. Modelul gestionează o fereastră de context de 100,000 de tokeni, combinând promptul și completarea. Erorile și refuzurile nu consumă creditul tău preplătit, asigurându-te că plătești doar pentru inferențe valide.