Documentación de Endpoints Compatible con OpenAI

Autenticación y URL base

Empieza por generar tu clave API a través del panel de control usando tu cuenta de Google o correo electrónico. Añade esta clave a cada encabezado de solicitud como Authorization: Bearer YOUR_API_KEY. La URL base es https://api.openaicompatibleendpoints.com/v1, asegurando que tu código cliente existente funciona sin modificaciones. Recibes una clave activa por cuenta, que puedes regenerar instantáneamente si se ve comprometida. No se requiere número de teléfono para el registro, manteniendo el proceso rápido y privado.

Primera solicitud

Envía una solicitud estándar de completación de chat para comenzar a generar texto inmediatamente. Esto confirma que tus credenciales y saldo de tokens están activos antes de escalar tu flujo de trabajo. El endpoint acepta cargas útiles JSON estándar idénticas al formato de OpenAI, lo que te permite probar la conectividad con una sobrecarga mínima.

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

Integración del SDK de Python

Instala el paquete oficial de Python de OpenAI y configúralo para que apunte a nuestra URL base y aprovecha patrones familiares. Este enfoque funciona sin problemas con herramientas como LangChain o LlamaIndex que esperan endpoints compatibles con OpenAI. Puedes cambiar modelos o proveedores simplemente actualizando la configuración de la URL base sin modificar la lógica de tu aplicación. Esta flexibilidad es crítica para agencias que gestionan múltiples pipelines de inferencia.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Uso del SDK Node

Inicializa el cliente de Node.js con tu URL base y clave de API para comenzar solicitudes de transmisión o sincrónicas. Esta configuración refleja la interfaz estándar del cliente de OpenAI, facilitando su integración en aplicaciones Express o Fastify. Puedes manejar errores de manera elegante verificando los códigos de estado devueltos por el servidor, asegurando que tu aplicación sea robusta durante el uso de alto volumen.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Respuestas en streaming (SSE)

Habilita el streaming estableciendo el stream parámetro a true, que devuelve datos en tiempo real mediante Server-Sent Events. Esto reduce la latencia percibida para los usuarios finales, especialmente al generar respuestas largas o cadenas de razonamiento complejas. Cada fragmento contiene contenido parcial, lo que te permite renderizar texto progresivamente en tu interfaz. El último fragmento incluye las estadísticas completas de uso de tokens para un seguimiento preciso de la facturación.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Límites, Errores y Contexto

Tu clave de API soporta hasta 300 solicitudes por minuto y permite 8 conexiones concurrentes. Si excedes estos límites, el servidor devuelve un código de estado 429; la falta de fondos activa un error 402, mientras que las claves inválidas resultan en un 401. El modelo maneja una ventana de contexto de 100,000 tokens, combinando prompt y completado. Los errores y las negativas no consumen tu crédito prepagado, asegurando que solo pagues por inferencias válidas.