Uncensored LLMの統合ガイド

ベースURLと認証

APIは https://api.localuncensoredllm.com/v1。キーを Authorization ヘッダー。この設定は標準的なOpenAIの統合を模倣しています。複雑なルーティングロジックは不要です。ベースURLがすべてのリクエストの送信を処理します。

• 使用 Bearer <YOUR_API_KEY> 認証に対して。
• キーはサインアップ時に瞬時に生成されます。

プロンプトが当社のUncensoredモデルに直接送信されることを保証します。入力にフィルタリングを施すミドルウェアはありません。モデルの機能に即座に生でアクセスできます。

POST /v1/chat/completions: プロンプトの送信

チャット完了エンドポイントにJSONペイロードを送信します。これはモデルからテキストレスポンスを取得する標準的な方法です。メッセージコンテンツとシステム指示を定義します。モデルは入力を処理し、完了結果を返します。

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

このエンドポイントはすべてのテキスト生成ニーズを処理します。温度やtop_pなどのパラメータを調整できます。応答には生成されたテキストとトークン使用統計が含まれます。シンプルで、直接的で、信頼性があります。

GET /v1/models: エンドポイントを検証

接続を確認するためにモデルエンドポイントをクエリします。これにより利用可能なモデルのリストが返されます。あなたは uncensored レスポンス内。これはAPIキーが有効であり、サービスが稼働していることを確認します。

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

送信する前に設定を確認するには、こちらを使用してください。これは迅速な簡易チェックです。エンドポイントが応答する場合、統合は正常に動作しています。自信を持って進めることができます。

ストリーミング、JSONモード、ツール呼び出し

streamをtrueに設定してストリーミングを有効にする stream: trueAPIは生成されるたびにチャンクを返します。これは長いレスポンスの体感レイテンシを低減します。また、を使用してJSON出力を強制することもできます。 response_format. これは構造化データの解析に役立ちます。

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

関数呼び出しは tools パラメータ。標準的なOpenAI形式でツールを定義します。モデルは適切な場合にツール呼び出しを出力します。これにより、複雑なエージェントワークフローが可能になります。すべてが同じAPI契約内で動作します。

レートリミットと同時実行数

各APIキーは1分あたり300リクエストに制限されています。同時に最大8件のリクエストを実行できます。これにより、単一のクライアントがリソースを独占するのを防ぎます。制限はアカウント全体ではなく、キーごとに適用されます。キーの管理にはご注意ください。

• 最大リクエストボディサイズは8 MBです。
• 制限を超えると429エラーが返されます。

これらの制約に基づいてスループットを計画してください。システムは安定した大量の使用に適して設計されています。バーストラフィックは同時リクエストウィンドウ内で処理されます。

エラー、クレジット、コンテキストウィンドウ

401エラーは、キーが無効であることを意味します。402エラーはクレジットが不足していることを示します。継続して利用するには暗号通貨でチャージしてください。エラーはクレジットを消費しません。これにより、成功したレスポンスに対してのみ課金されることが保証されます。

コンテキストウィンドウは10万トークンです。プロンプトと補完の両方を含みます。必要に応じてデフォルトのmax_tokensを2,048に設定できます。プロンプトはトレーニングに使用されません。プライバシーはプロセス全体で維持されます。

ストリーミング

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)