Documentazione endpoint compatibili con OpenAI

Autenticazione e Base URL

Inizia generando la tua chiave tramite la dashboard utilizzando il tuo account Google o email. Aggiungi questa chiave a ogni intestazione di richiesta come Authorization: Bearer YOUR_API_KEY. L'URL di base è https://api.openaicompatibleendpoints.com/v1, garantendo che il tuo codice client esistente funzioni senza modifiche. Ricevi una chiave attiva per account, che puoi rigenerare istantaneamente se compromessa. Non è richiesto un numero di telefono per la registrazione, mantenendo il processo veloce e privato.

Prima richiesta

Invia una richiesta standard di completamento chat per iniziare a generare testo immediatamente. Questo conferma che le tue credenziali e il saldo del token sono attivi prima di scalare il tuo flusso di lavoro. L'endpoint accetta payload JSON standard identici al formato OpenAI, consentendoti di testare la connettività con overhead minimo.

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

Integrazione SDK Python

Installa il pacchetto Python ufficiale di OpenAI e puntalo al nostro URL base per sfruttare pattern familiari. Questo approccio funziona perfettamente con strumenti come LangChain o LlamaIndex che si aspettano endpoint compatibili con OpenAI. Puoi cambiare modello o provider semplicemente aggiornando la configurazione dell'URL base senza modificare la logica della tua applicazione. Questa flessibilità è fondamentale per le agenzie che gestiscono più pipeline di inferenza.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Utilizzo SDK Node

Inizializza il client Node.js con il tuo URL di base e la chiave API per avviare richieste in streaming o sincrone. Questa configurazione riflette l'interfaccia standard del client OpenAI, rendendo facile l'integrazione in applicazioni Express o Fastify. Puoi gestire gli errori in modo elegante controllando i codici di stato restituiti dal server, assicurando che la tua applicazione rimanga robusta durante l'utilizzo ad alto volume.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Risposte in streaming (SSE)

Abilita lo streaming impostando il stream impostare il parametro su true, che restituisce dati in tempo reale tramite Server-Sent Events. Questo riduce la latenza percepita per gli utenti finali, specialmente quando si generano risposte lunghe o catene di ragionamento complesse. Ogni chunk contiene contenuto parziale, consentendoti di renderizzare il testo in modo progressivo nell'interfaccia. L'ultimo chunk include le statistiche complete di utilizzo dei token per un accurato tracciamento della fatturazione.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limiti, Errori e Contesto

La tua chiave API supporta fino a 300 richieste al minuto e consente 8 connessioni simultanee. Se superi questi limiti, il server restituisce un codice di stato 429; la mancanza di fondi genera un errore 402, mentre chiavi non valide risultano in un errore 401. Il modello gestisce una finestra di contesto di 100.000 token, combinando prompt e completamento. Gli errori e i rifiuti non consumano il tuo credito prepagato, garantendo che tu paghi solo per le inferenze valide.