תיעוד נקודות קצה תואמות OpenAI

אימות וכתובת בסיס

התחל על ידי יצירת מפתח ה-API שלך דרך הדשבורד באמצעות חשבון ה-Google שלך או אימייל. צרף מפתח זה לכל כותרת בקשה כ- Authorization: Bearer YOUR_API_KEY. כתובת ה-URL הבסיסית היא https://api.openaicompatibleendpoints.com/v1,מבטיח שהקוד הקיים שלך עובד ללא שינוי. אתה מקבל מפתח פעיל אחד לחשבון, אותו ניתן לחדש מיד אם נפגע. אין צורך במספר טלפון להרשמה, מה שהופך את התהליך למהיר ופרטי.

בקשה ראשונה

שלח בקשת השלמת צ'אט סטנדרטית כדי להתחיל לייצר טקסט מיד. זה מאשר שהאישורים והמאזן של הטוקנים שלך פעילים לפני שאתה מרחיב את זרימת העבודה שלך. הנקודה הקצה מקבלת פליי-לואידים סטנדרטיים של JSON זהים לפורמט של OpenAI, ומאפשרת לך לבדוק חיבוריות עם מינימום עלויות.

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

אינטגרציית SDK Python

התקן את חבילת פייתון הרשמית של OpenAI וצביע אותה לכתובת הבסיס שלנו כדי לנצל דפוסים מוכרים. גישה זו עובדת בצורה חלקה עם כלים כמו LangChain או LlamaIndex שצפויים לקצוות תואמי OpenAI. ניתן להחליף מודלים או ספקים רק על ידי עדכון תצורת כתובת הבסיס ללא שינוי לוגיקת היישום. גמישות זו קריטית לסוכנויות המנהלות מספר צינורות הסקה.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

שימוש ב-Node SDK

אתחל את לקוח Node.js עם כתובת הבסיס ומפתח ה-API שלך כדי להתחיל בקשות סטרימינג או סינכרוניות. תצורה זו משקפת את ממשק הלקוח הסטנדרטי של OpenAI, מה שמקל על שילוב ביישומי Express או Fastify. אתה יכול לטפל בשגיאות בצורה מסודרת על ידי בדיקת קודי הסטטוס שהשרת מחזיר, ובכך להבטיח שהיישום שלך יישאר יציב גם בשימוש בנפחים גבוהים.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

תגובות בסטרימינג (SSE)

אפשרו זרמת נתונים על ידי הגדרת ה stream פרמטר ל-true, אשר מחזיר נתונים בזמן אמת באמצעות אירועים שנשלחו על ידי השרת. זה מפחית את תחומת העיכוי עבור משתמשים סופיים, במיוחד בעת יצירת תגובות ארוכות או שרשראות חשיבה מורכבות. כל נתח מכיל תוכן חלקי, ומאפשר לך להציג טקסט בהדרגה בממשק שלך. הנתח הסופי כולל את סטטיסטיקות השימוש המלאות באסימונים למעקב חשבונאי מדויק.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

מגבלות, שגיאות והקשר

מפתח ה-API שלך תומך בעד 300 בקשות לדקה ומאפשר 8 חיבורים מקבילים. אם תחרוג מגבולות אלו, השרת יחזיר קוד סטטוס 429; חוסר במאזן יגרום לשגיאה 402, בעוד שמפתחות לא חוקיים יגרמו לשגיאה 401. המודל תומך בחלון הקשר של 100,000 טוקנים, המשלב פלט ופלט. שגיאות וסירובים אינם צורכים את האשראי ששולם מראש, כך שתשלם רק על הסקת מסקנות תקינה.