OpenAI-uyumlu Uç Noktalar Dokümantasyonu

Kimlik Doğrulama ve Temel URL

API anahtarınızı dashboard üzerinden Google hesabınız veya e-posta kullanarak oluşturun. Bu anahtarı her istek başlığına Authorization: Bearer YOUR_API_KEY. Temel URL şudur: https://api.openaicompatibleendpoints.com/v1, mevcut istemci kodunuzun modifikasyon olmadan çalışmasını sağlar. Hesap başına tek bir aktif anahtar alırsınız; bu anahtarı anında yenileyebilirsiniz. Kayıt için telefon numarası gerekmez, süreci hızlı ve gizli tutar.

İlk İstek

Hemen metin oluşturmayı başlatmak için standart bir chat completion isteği gönderin. Bu, iş akışınızı ölçeklendirmeden önce kimlik bilgilerinizin ve token bakiyenizin aktif olduğunu doğrular. Uç nokta, OpenAI formatıyla özdeş standart JSON yüklerini kabul eder, bu da minimum ek yükle bağlantı testine olanak tanır.

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

Python SDK Entegrasyonu

Resmi OpenAI Python paketini yükleyin ve tanıdık kalıplardan yararlanmak için temel URL'mize işaret edin. Bu yaklaşım, OpenAI uyumlu uç noktaları bekleyen LangChain veya LlamaIndex gibi araçlarla sorunsuz çalışır. Uygulama mantığınızı değiştirmeden yalnızca temel URL yapılandırmasını güncelleyerek modelleri veya sağlayıcıları değiştirebilirsiniz. Bu esneklik, birden fazla çıkarım hattı yöneten ajanslar için kritiktir.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK Kullanımı

Node.js istemcisini temel URL'niz ve API anahtarınızla başlatarak akışlı veya senkron isteklere başlayın. Bu kurulum, standart OpenAI istemci arayüzünü taklit eder ve Express veya Fastify uygulamalarına entegre etmeyi kolaylaştırır. Sunucudan dönen durum kodlarını kontrol ederek hataları zarifçe yönetebilir, böylece yüksek hacimli kullanımlar sırasında uygulamanızın sağlam kalmasını sağlayabilirsiniz.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Akış Yanıtları (SSE)

Akışı etkinleştirmek için stream parametresini true olarak ayarlayın, bu, Sunucu Tarafından Gönderilen Olaylar aracılığıyla gerçek zamanlı veri döndürür. Bu, özellikle uzun yanıtlar veya karmaşık akıl yürütme zincirleri oluştururken son kullanıcılar için algılanan gecikmeyi azaltır. Her parça kısmi içerik içerir, böylece metki arayüzünüzde aşamalı olarak oluşturabilirsiniz. Son parça, doğru faturalandırma için tam belirteç kullanım istatistiklerini içerir.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Limitler, Hatalar ve Bağlam

API anahtarınız dakika başına 300 istek destekler ve 8 eşzamanlı bağlantıya izin verir. Bu limitleri aşarsanız sunucu 429 durum kodunu döndürür; yetersiz bakiye 402 hatası tetikler, geçersiz anahtarlar ise 401 hatası verir. Model, istem ve tamamlama birleşimi olmak üzere 100.000 token'lık bir bağlam penceresini işler. Hatalar ve reddetmeler ön ödemeli kredinizi tüketmez, bu nedenle yalnızca geçerli çıkarım için ödeme yaparsınız.