Документация точек входа API, совместимого с OpenAI

Аутентификация и базовый URL

Начните с генерации вашего API-ключа через панель управления с использованием аккаунта Google или электронной почты. Добавьте этот ключ в каждый заголовок запроса как Authorization: Bearer YOUR_API_KEY. Базовый URL — https://api.openaicompatibleendpoints.com/v1, обеспечивая, что ваш существующий клиентский код работает без изменений. Вы получаете один активный ключ на аккаунт, который можно мгновенно перегенерировать при компрометации. Для регистрации не требуется номер телефона, что делает процесс быстрым и приватным.

Первый запрос

Отправьте стандартный запрос chat completion для немедленного начала генерации текста. Это подтверждает, что ваши учетные данные и баланс токенов активны перед масштабированием вашего рабочего процесса. Конечный пункт принимает стандартные полезные данные JSON, идентичные формату OpenAI, позволяя вам проверить подключение с минимальными накладными расходами.

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

Интеграция Python SDK

Установите официальный пакет OpenAI для Python и укажите наш базовый URL, чтобы использовать знакомые паттерны. Этот подход бесшовно работает с такими инструментами, как LangChain или LlamaIndex, которые ожидают OpenAI-совместимые конечные точки. Вы можете переключать модели или провайдеров, просто обновив конфигурацию базового URL, не изменяя логику приложения. Эта гибкость критически важна для агентств, управляющих несколькими конвейерами вывода.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Использование Node SDK

Инициализируйте клиент Node.js с вашим базовым URL и API-ключом, чтобы начать потоковую передачу или синхронные запросы. Эта настройка зеркально отражает стандартный интерфейс клиента OpenAI, что упрощает интеграцию в приложения Express или Fastify. Вы можете корректно обрабатывать ошибки, проверяя коды состояния, возвращаемые сервером, что обеспечивает надежность вашего приложения даже при высокой нагрузке.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковые ответы (SSE)

Включите потоковую передачу, установив stream параметр в true, что возвращает данные в реальном времени через Server-Sent Events. Это снижает воспринимаемую задержку для конечных пользователей, особенно при генерации длинных ответов или сложных цепочек рассуждений. Каждый чанк содержит частичное содержимое, позволяя постепенно отображать текст в вашем интерфейсе. Последний чанк включает полную статистику использования токенов для точного отслеживания биллинга.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Лимиты, Ошибки и Контекст

Ваш API-ключ поддерживает до 300 запросов в минуту и 8 одновременных подключений. При превышении этих лимитов сервер возвращает статус 429; при недостатке средств — ошибку 402, а при недействительном ключе — ошибку 401. Модель обрабатывает контекстное окно объемом 100,000 токенов, объединяя промпт и завершение. Ошибки и отказы не расходуют ваши предоплаченные кредиты, поэтому вы платите только за валидные инференсы.