Dokumentasi Titik Akhir Kompatibel OpenAI

Autentikasi dan URL Dasar

Mulai dengan membuat kunci API Anda melalui dasbor menggunakan akun Google atau email Anda. Lampirkan kunci ini ke setiap header permintaan sebagai Authorization: Bearer YOUR_API_KEY. URL dasar adalah https://api.openaicompatibleendpoints.com/v1, memastikan kode klien yang ada Anda berfungsi tanpa modifikasi. Anda menerima satu kunci aktif per akun, yang dapat Anda regenerasi secara instan jika dikompromikan. Tidak ada nomor telepon yang diperlukan untuk pendaftaran, menjaga prosesnya cepat dan privat.

Permintaan Pertama

Kirimkan permintaan completion chat standar untuk mulai menghasilkan teks segera. Ini mengonfirmasi bahwa kredensial dan saldo token Anda aktif sebelum meningkatkan skala alur kerja Anda. Endpoint menerima payload JSON standar yang identik dengan format OpenAI, memungkinkan Anda menguji konektivitas dengan overhead minimal.

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

Integrasi SDK Python

Instal paket Python resmi OpenAI dan arahkan ke URL dasar kami untuk memanfaatkan pola yang sudah familiar. Pendekatan ini bekerja mulus dengan alat seperti LangChain atau LlamaIndex yang mengharapkan endpoint kompatibel OpenAI. Anda dapat mengganti model atau penyedia hanya dengan memperbarui konfigurasi URL dasar tanpa mengubah logika aplikasi. Fleksibilitas ini sangat penting bagi agensi yang mengelola beberapa pipeline inferensi.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Penggunaan SDK Node

Inisialisasi klien Node.js dengan URL dasar dan kunci API Anda untuk memulai permintaan streaming atau sinkron. Konfigurasi ini meniru antarmuka klien OpenAI standar, sehingga mudah diintegrasikan ke dalam aplikasi Express atau Fastify. Anda dapat menangani kesalahan secara elegan dengan memeriksa kode status yang dikembalikan oleh server, memastikan aplikasi Anda tetap tangguh selama penggunaan volume tinggi.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Respons Streaming (SSE)

Aktifkan streaming dengan mengatur stream parameter menjadi true, yang mengembalikan data secara real-time melalui Server-Sent Events. Ini mengurangi latensi yang dirasakan oleh pengguna akhir, terutama saat menghasilkan respons panjang atau rantai penalaran kompleks. Setiap potongan berisi konten parsial, memungkinkan Anda merender teks secara progresif di antarmuka Anda. Potongan terakhir mencakup statistik penggunaan token lengkap untuk pelacakan penagihan yang akurat.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Batas, Error, dan Konteks

Kunci API Anda mendukung hingga 300 permintaan per menit dan mengizinkan 8 koneksi simultan. Jika Anda melebihi batas ini, server akan mengembalikan kode status 429; dana tidak cukup memicu kesalahan 402, sedangkan kunci tidak valid menghasilkan kesalahan 401. Model menangani jendela konteks 100.000 token, menggabungkan prompt dan penyelesaian. Kesalahan dan penolakan tidak mengonsumsi kredit prabayar Anda, memastikan Anda hanya membayar untuk inferensi yang valid.