OpenAI-कम्पैटिबल एंडपॉइंट्स दस्तावेज़ीकरण

प्रमाणीकरण और बेस यूआरएल

डैशबोर्ड के माध्यम से अपने Google खाते या ईमेल का उपयोग करके अपनी API कुंजी जनरेट करें। हर अनुरोध हेडर में इस कुंजी को जोड़ें Authorization: Bearer YOUR_API_KEY. बेस यूआरएल है https://api.openaicompatibleendpoints.com/v1, सुनिश्चित करता है कि आपका मौजूदा क्लाइंट कोड बिना संशोधन के काम करे। आपको प्रति खाता एक सक्रिय कुंजी प्राप्त होती है, जिसे यदि संक्रमित हो तो तुरंत पुनर्जनरेट किया जा सकता है। साइनअप के लिए फोन नंबर की आवश्यकता नहीं है, जिससे प्रक्रिया तेज और निजी रहती है।

पहला अनुरोध

टेक्स्ट जनरेट करना शुरू करने के लिए एक मानक चैट कंप्लीशन रिक्वेस्ट भेजें। यह पुष्टि करता है कि आपके क्रेडेंशियल्स और टोकन बैलेंस सक्रिय हैं, इससे पहले कि आप अपने वर्कफ़्लो को स्केल करें। एंडपॉइंट मानक JSON पेलोड्स स्वीकार करता है जो OpenAI फॉर्मेट के समान हैं, जिससे आपको न्यूनतम ओवरहेड के साथ कनेक्टिविटी टेस्ट करने की अनुमति मिलती है।

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

Python SDK इंटीग्रेशन

औपचारिक OpenAI Python पैकेज को इंस्टॉल करें और इसे हमारे बेस URL पर पॉइंट करें ताकि परिचित पैटर्नों का लाभ उठाया जा सके। यह दृष्टिकोण LangChain या LlamaIndex जैसे टूल के साथ सहजता से काम करता है जो OpenAI-संगत एंडपॉइंट की उम्मीद करते हैं। आप केवल बेस URL कॉन्फ़िगरेशन को अपडेट करके मॉडल या प्रदाताओं को बदल सकते हैं, बिना अपने एप्लिकेशन लॉजिक में बदलाव किए। यह लचीलापन कई इनफरेंस पाइपलाइनों को प्रबंधित करने वाले एजेंसियों के लिए महत्वपूर्ण है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK उपयोग

स्ट्रीमिंग या सिंक्रोनस अनुरोध शुरू करने के लिए अपने बेस URL और API कुंजी के साथ Node.js क्लाइंट को इनिशियलाइज़ करें। यह सेटअप मानक OpenAI क्लाइंट इंटरफ़ेस की नकल करता है, जिससे Express या Fastify अनुप्रयोगों में एकीकरण आसान होता है। सर्वर द्वारा लौटाए गए स्टेटस कोड की जांच करके त्रुटियों को दयालुता से संभालें, यह सुनिश्चित करते हुए कि आपका अनुप्रयोग उच्च-वॉल्यूम उपयोग के दौरान मजबूत बना रहे।

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग रिस्पॉन्सेस (SSE)

स्ट्रीमिंग को सक्षम करने के लिए stream पैरामीटर को true सेट करें, जो सर्वर-सेंट इवेंट्स के माध्यम से रियल-टाइम डेटा लौटाता है। इससे अंत-उपयोगकर्ताओं के लिए अनुभवगत विलंबता कम होती है, विशेष रूप से जब लंबे उत्तर या जटिल तर्क श्रृंखलाएं जनरेट की जा रही हों। प्रत्येक चंक में आंशिक सामग्री होती है, जिससे आप अपने इंटरफ़ेस में पाठ को क्रमिक रूप से रेंडर कर सकते हैं। अंतिम चंक में सटीक बिलिंग ट्रैकिंग के लिए पूर्ण टोकन उपयोग आंकड़े शामिल होते हैं।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

सीमाएं, त्रुटियां, और संदर्भ

आपका API कुंजी प्रति मिनट 300 अनुरोध और 8 समवर्ती कनेक्शन का समर्थन करता है। यदि आप इन सीमाओं को पार करते हैं, तो सर्वर 429 स्थिति कोड लौटाता है; अपर्याप्त फंड 402 त्रुटि ट्रिगर करते हैं, जबकि अमान्य कुंजियां 401 त्रुटि देती हैं। मॉडल प्रॉम्प्ट और कंप्लीशन को मिलाकर 100,000 टोकन की संदर्भ विंडो को संभालता है। त्रुटियां और अस्वीकृतियां आपके पूर्व-भुगतान किए गए क्रेडिट का उपभोग नहीं करती हैं, सुनिश्चित करती हैं कि आप केवल मान्य इनफरेंस के लिए भुगतान करें।