Documentation des points de terminaison Compatible OpenAI

Authentification et URL de base

Commencez par générer votre clé API via le tableau de bord en utilisant votre compte Google ou e-mail. Ajoutez cette clé à chaque en-tet de requête en tant que Authorization: Bearer YOUR_API_KEY. L'URL de base est https://api.openaicompatibleendpoints.com/v1, assurant que votre code client existant fonctionne sans modification. Vous recevez une clé active par compte, que vous pouvez régénérer instantanément en cas de compromission. Aucun numéro de téléphone n'est requis pour l'inscription, gardant le processus rapide et privé.

Première demande

Envoyez une requête standard de complétion de chat pour commencer à générer du texte immédiatement. Cela confirme que vos identifiants et votre solde de jetons sont actifs avant de mettre à l'échelle votre flux de travail. Le point de terminaison accepte des charges utiles JSON standard identiques au format OpenAI, vous permettant de tester la connectivité avec une surcharge minimale.

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

Intégration du SDK Python

Installez le package Python officiel OpenAI et pointez-le vers notre URL de base pour tirer parti de patterns familiers. Cette approche fonctionne sans problème avec des outils comme LangChain ou LlamaIndex qui attendent des points de terminaison compatibles OpenAI. Vous pouvez changer de modèle ou de fournisseur en mettant simplement à jour la configuration de l'URL de base sans modifier la logique de votre application. Cette flexibilité est cruciale pour les agences gérant plusieurs pipelines d'inférence.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Utilisation du SDK Node

Initialisez le client Node.js avec votre URL de base et votre clé API pour démarrer les requêtes en streaming ou synchrones. Cette configuration imite l'interface standard du client OpenAI, facilitant l'intégration dans les applications Express ou Fastify. Vous pouvez gérer les erreurs élégamment en vérifiant les codes d'état renvoyés par le serveur, garantissant la robustesse de votre application lors d'une utilisation à fort volume.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Réponses en streaming (SSE)

Activez le streaming en définissant le stream parameter à true, qui retourne des données en temps réel via Server-Sent Events. Cela réduit la latence perçue pour les utilisateurs finaux, en particulier lors de la génération de réponses longues ou de chaînes de raisonnement complexes. Chaque chunk contient du contenu partiel, vous permettant de rendre le texte progressivement dans votre interface. Le dernier chunk inclut les statistiques complètes d'utilisation des jetons pour un suivi précis de la facturation.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limites, Erreurs et Contexte

Votre clé API prend en charge jusqu'à 300 requêtes par minute et permet 8 connexions simultanées. Si vous dépassez ces limites, le serveur renvoie un code d'état 429 ; un solde insuffisant déclenche une erreur 402, tandis qu'une clé invalide entraîne une erreur 401. Le modèle gère une fenêtre de contexte de 100 000 tokens, combinant prompt et complétion. Les erreurs et les refus ne consomment pas votre crédit prépayé, garantissant que vous ne payez que pour l'inférence valide.