OpenAI互換エンドポイントドキュメント

認証とベースURL

Googleアカウントまたはメールアドレスを使用してダッシュボードからAPIキーを生成することから始めましょう。このキーをリクエストヘッダーに追加してください。 Authorization: Bearer YOUR_API_KEYベースURLは https://api.openaicompatibleendpoints.com/v1既存のクライアントコードを変更せずに動作することを確保します。アカウントごとに1つのアクティブキーが提供され、侵害された場合は即座に再生成できます。サインアップに電話番号は不要で、プロセスは迅速かつプライベートです。

最初のリクエスト

テキスト生成を開始するための標準的なチャット完了リクエストを送信します。これにより、資格情報とトークン残高が有効であることを確認し、ワークフローをスケールアップする準備をします。エンドポイントはOpenAI形式と同一の標準JSONペイロードを受け取るため、最小限のオーバーヘッドで接続をテストできます。

Copycurl https://api.openaicompatibleendpoints.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return the current server time in UTC format"}]
  }'

Python SDK統合

公式のOpenAI Pythonパッケージをインストールし、ベースURLを当社のエンドポイントに設定することで、おなじみのパターンを活用できます。この方法は、OpenAI互換エンドポイントを想定しているLangChainやLlamaIndexなどのツールともシームレスに動作します。ベースURLの設定を更新するだけでモデルやプロバイダを切り替えられるため、アプリケーションロジックの変更は不要です。複数の推論パイプラインを管理するエージェンシーにとって、この柔軟性は極めて重要です。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.openaicompatibleendpoints.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node SDKの使用法

Node.jsクライアントをベースURLとAPIキーで初期化し、ストリーミングまたは同期リクエストを開始します。このセットアップは標準的なOpenAIクライアントインターフェースと同等であり、ExpressやFastifyアプリケーションへの統合が容易です。サーバーから返されるステータスコードを確認することでエラーを適切に処理でき、大量使用時でもアプリケーションの堅牢性を確保します。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.openaicompatibleendpoints.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ストリーミングレスポンス（SSE）

streamを stream true に設定します。これによりServer-Sent Events経由でデータがリアルタイムに返されます。これによりエンドユーザーの知覚されるレイテンシーが低減し、特に長いレスポンスや複雑な推論チェーンの生成時に顕著です。各チャンクには部分的なコンテンツが含まれ、インターフェースでテキストを段階的にレンダリングできます。最終チャンクには正確な課金追跡のための完全なトークン使用統計が含まれます。

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

制限、エラー、コンテキスト

APIキーは1分あたり最大300リクエストをサポートし、8つの同時接続を許可します。これらの制限を超えるとサーバーは429ステータスコードを返します。資金不足は402エラー、無効なキーは401エラーを返します。モデルはプロンプトと補完を合わせた100,000トークンのコンテキストウィンドルを処理します。エラーや拒否は前払いクレジットを消費しないため、有効な推論に対してのみ課金されます。