เอกสารเอนด์พอยต์ที่เข้ากันได้กับ OpenAI

การตรวจสอบสิทธิ์และ Base URL

เริ่มต้นด้วยการสร้าง API key ของคุณผ่านแดชบอร์ดโดยใช้บัญชี Google หรืออีเมลของคุณ เพิ่มคีย์นี้ไปยัง header คำขอทุกคำเป็น Authorization: Bearer YOUR_API_KEY. URL ฐานคือ https://api.openaicompatibleendpoints.com/v1, ทำให้โค้ดไคลเอนต์ที่มีอยู่ของคุณทำงานได้โดยไม่ต้องแก้ไข คุณได้รับคีย์ที่ใช้งานหนึ่งคีย์ต่อบัญชี ซึ่งคุณสามารถสร้างใหม่ได้ทันทีหากถูกบุกรุก ไม่จำเป็นต้องใช้หมายเลขโทรศัพท์สำหรับการสมัครรักษากระบวนการให้รวดเร็วและเป็นส่วนตัว

คำขอครั้งแรก

ส่งคำขอ chat completion มาตรฐานเพื่อเริ่มสร้างข้อความทันที สิ่งนี้ยืนยันว่าข้อมูลรับรองและยอดคงเหลือโทเคนของคุณเปิดใช้งานก่อนขยายเวิร์กโฟลว์ของคุณ เอนด์พอยต์ยอมรับแพย์โหลด JSON มาตรฐานที่เหมือนกันกับรูปแบบ OpenAI ทำให้คุณสามารถทดสอบการเชื่อมต่อได้โดยมีโอเวอร์เฮดต่ำ

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

การผสานรวม SDK Python

ติดตั้งแพ็กเกจ Python ทางการของ OpenAI และชี้ไปยัง URL พื้นฐานของเราเพื่อใช้รูปแบบที่คุ้นเคย วิธีนี้ทำงานได้อย่างราบรื่นกับเครื่องมือเช่น LangChain หรือ LlamaIndex ที่ต้องการจุดปลายแบบ OpenAI-compatible คุณสามารถเปลี่ยนโมเดลหรือผู้ให้บริการได้เพียงโดยการอัปเดตการตั้งค่า URL พื้นฐานโดยไม่ต้องเปลี่ยนตรรกะของแอปพลิเคชัน ความยืดหยุ่นนี้สำคัญมากสำหรับเอเจนซีที่จัดการเส้นทางการอนุมานหลายเส้น

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

การใช้งาน Node SDK

เริ่มต้นใช้งานไคลเอนต์ Node.js ด้วย URL พื้นฐานและคีย์ API ของคุณเพื่อเริ่มการสตรีมหรือคำขอแบบซิงโครนัส การตั้งค่านี้คล้ายกับอินเทอร์เฟซไคลเอนต์ OpenAI มาตรฐาน ทำให้การผสานรวมเข้ากับแอปพลิเคชัน Express หรือ Fastify ทำได้ง่าย คุณสามารถจัดการข้อผิดพลาดได้อย่างราบรื่นโดยการตรวจสอบรหัสสถานะที่ส่งกลับโดยเซิร์ฟเวอร์ เพื่อให้แอปพลิเคชันของคุณมีความมั่นคงในช่วงการใช้งานปริมาณสูง

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การตอบกลับแบบสตรีมมิ่ง (SSE)

เปิดใช้งานการสตรีมโดยการตั้งค่า stream ตั้งค่าเป็น true ซึ่งจะทำให้ส่งข้อมูลแบบเรียลไทม์ผ่าน Server-Sent Events (SSE) วิธีนี้ช่วยลดความล่าช้าที่ผู้ใช้รู้สึกได้ โดยเฉพาะเมื่อสร้างคำตอบยาวหรือลำดับการให้เหตุผลที่ซับซ้อน แต่ละชุดมีเนื้อหาบางส่วน ทำให้คุณสามารถแสดงผลข้อความแบบต่อเนื่องได้ ชุดสุดท้ายจะรวมสถิติการใช้งานโทเค็นทั้งหมดสำหรับการติดตามการเรียกเก็บเงินที่แม่นยำ

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ข้อจำกัด, ข้อผิดพลาด และบริบท

คีย์ API ของคุณรองรับสูงสุด 300 การร้องขอต่อนาที และอนุญาตการเชื่อมต่อพร้อมกันได้ 8 การเชื่อมต่อ หากเกินขีดจำกัดเหล่านี้ เซิร์ฟเวอร์จะส่งสถานะ 429; ยอดเงินไม่เพียงพอจะส่งข้อผิดพลาด 402 และคีย์ที่ไม่ถูกต้องจะส่งข้อผิดพลาด 401 โมเดลรองรับหน้าต่างบริบทขนาด 100,000 tokens ซึ่งรวม prompt และการแสดงผล ข้อผิดพลาดและการปฏิเสธไม่ใช้เครดิตที่เติมไว้ล่วงหน้า ทำให้คุณจ่ายเฉพาะสำหรับการอนุมานที่ถูกต้องเท่านั้น