OpenAI-uyumlu Uç Noktalar Dokümantasyonu

Todennus ja base URL

Aloita API-avaimen luomin kojelaudan kautta Google-tililläsi tai sähköpostilla. Liitä tämä avain jokaiseen pyyntöotsakkeeseen muodossa Authorization: Bearer YOUR_API_KEY. Perusosoite on https://api.openaicompatibleendpoints.com/v1, varmistaen, että olemassa oleva asiakasohjelmistosi toimii ilman muutoksia. Saat yhden aktiivisen avaimen tilille, jonka voit regeneroida välittömästi, jos se on vaarantunut. Puhelinnumeroa ei vaadita rekisteröitymiseen, pitäen prosessin nopeana ja yksityisenä.

Ensimmäinen pyyntö

Lähetä vakio chat-completion pyyntö aloittaaksesi tekstin luomisen välittömästi. Tämä vahvistaa, että kirjautumistietosi ja token-jäljellä oleva saldo ovat aktiivisia ennen työvuon skaalausta. Päätepiste hyväksyy vakioita JSON-payloadeja, jotka ovat identtisiä OpenAI-muodon kanssa, mikä mahdollistaa yhteyden testauksen vähäisellä ylikuormituksella.

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

Python SDK -integraatio

Asenna virallinen OpenAI:n Python-paketti ja osoita se palveluntarjoajamme base URL -osoitteeseen hyödyntääksesi tuttuja malleja. Tämä lähestymistapa toimii saumattomasti työkalujen kuten LangChain tai LlamaIndex kanssa, jotka odottavat OpenAI-yhteensopivia päätepisteitä. Voit vaihtaa malleja tai palveluntarjoajia yksinkertaisesti päivittämällä base URL -konfiguraatiota ilman sovelluslogiikan muutoksia. Tämä joustavuus on kriittistä useita johtolankoja hallinnoiville toimistoille.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDK -käyttö

Alusta Node.js-asiakirjaimisto perus-URL-osoitteella ja API-avaimella aloittaaksesi streamaus- tai synkroniset pyynnöt. Tämä kokoonpano muistuttaa vakiintunutta OpenAI-asiakirjaimiston käyttöliittymää, mikä tekee integroinnista Express- tai Fastify-sovelluksiin helppoa. Voit käsitellä virheet sujuvasti tarkistamalla palvelimen palauttamat statuskoodit, varmistaen sovelluksesi robustiuden suurten kuormien aikana.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamausvastaukset (SSE)

Ota virtauskäyttöön asettamalla stream parametri arvoon true, joka palauttaa dataa reaaliajassa Server-Sent Events -muodossa. Tämä vähentää havaittua viivettä pääkäyttäjille, erityisesti tuotettaessa pitkiä vastauksia tai monimutkaisia päättelyketjuja. Jokainen osa sisältää osittaista sisältöä, mikä mahdollistaa tekstin renderöinnin asteittain käyttöliittymässäsi. Viimeinen osa sisältää täydet tokenkäyttötilastot tarkan laskutuksen varmistamiseksi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Rajoitukset, virheet ja konteksti

API-avaimesi tukee jopa 300 pyyntöä minuutissa ja sallii 8 samanaikaista yhteyttä. Jos ylität nämä rajat, palvelin palauttaa tilakoodin 429; riittämättömät varat aiheuttavat virheen 402 ja virheelliset avaimet virheen 401. Malli käsittelee 100 000 merkin kontekstiikkunan yhdistäen syötteen ja tuloksen. Virheet ja hylkäykset eivät kuluta esimaksukrediittiäsi, varmistaen että maksat vain kelvollisista päättelyistä.