無審查 LLM 整合指南
將我們的無審查 LLM 放入您現有的技術堆疊中。使用 OpenAI 相容 API 獲取原始、無過濾的文字回應,無需修改客戶端邏輯。
基礎 URL 與驗證
我們的 API 位於 https://api.localuncensoredllm.com/v1. 通過在 Authorization 標頭。此設定與標準 OpenAI 整合方式一致。您無需複雜的路由邏輯。基礎 URL 會處理所有請求的導向。
- 使用
Bearer <YOUR_API_KEY>用於授權。 - 金鑰在註冊時立即生成。
這可確保您的提示直接傳送至我們的 uncensored 模型。沒有中介軟體過濾您的輸入。您將立即獲得對模型能力的原始存取權。
POST /v1/chat/completions:傳送您的提示詞
向聊天完成端點發送 JSON 負載。這是從模型獲取文字回應的標準方式。您定義消息內容和系統指令。模型處理您的輸入並返回完成內容。
curl https://api.localuncensoredllm.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Summit height in meters"}]
}'此端點處理您的所有文字生成需求。您可以調整溫度(temperature)和 top_p 等參數。回應包含生成的文字和 token 使用統計數據。它簡單、直接且可靠。
GET /v1/models:驗證您的端點
查詢 models 端點以確認連線。這會回傳可用模型列表。您應該看到 uncensored 回應中。這確認您的金鑰有效且服務正在運行。
from openai import OpenAI
client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)使用此方法在發送大量負載前驗證您的設定。這是一個快速的健康檢查。如果端點有回應,表示您的整合運作正常。您可以放心繼續。
串流、JSON 模式與工具呼叫
在請求主體中將 stream: true。API 會隨著生成進度回傳資料片段。這可降低長回應的感知延遲。您也可以使用 response_format. 這有助於結構化資料解析。
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);透過 tools 參數。以標準 OpenAI 格式定義您的工具。模型會在適當時輸出工具呼叫。這允許複雜的代理程式工作流程。所有功能都在相同的 API 合約內運作。
速率限制與併發
每個 API 金鑰的速率限制為每分鐘 300 次請求。您最多可進行 8 個並行請求。這可防止單一客戶端壟佔資源。此限制是針對每個金鑰,而非整個帳戶。請 accordingly 管理您的金鑰。
- 最大請求主體大小為 8 MB。
- 超出限制會返回 429 錯誤。
請根據這些限制規劃您的吞吐量。系統設計用於穩定、大規模的使用。突發流量會在並行請求視窗內處理。
錯誤、信用額度與上下文視窗
401 錯誤表示您的金鑰無效。402 錯誤表示信用額度不足。請透過加密貨幣充值以繼續使用。錯誤不會消耗您的信用額度。這確保您只需為成功的回應付費。
上下文視窗為 100,000 個 token。這包含提示詞與補全內容。您可以將預設 max_tokens 設定為 2,048(如有需要)。您的提示詞不會用於訓練。整個過程都維持隱私。
串流
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)常見問題
無審查 LLM 的上下文視窗為何?
上下文視窗為 100,000 個 token,涵蓋提示詞與補全。每次請求最多可生成 16,000 個 token。若未指定 max_tokens,限制為 2,048 個 token。
如何處理錯誤與退款?
錯誤如 401 或 429 不會消耗您的預付積分。僅成功的回應會收費。積分永不過期。如果您被重複扣款,請透過支援頁面聯繫支援人員進行更正。
此 API 與 OpenAI SDK 相容嗎?
是的,它完全兼容 OpenAI。您可以透過更新 base URL 和 API 金鑰來使用標準的 OpenAI SDK。端點和回應格式完全符合 OpenAI 規範。這使得輕鬆的即插即用整合成為可能。