راهنمای یکپارچه‌سازی برای مدل زبانی بزرگ بدون سانسور

URL پایه و احراز هویت

API ما در https://api.localuncensoredllm.com/v1. شما با ارسال کلید خود در Authorization header. این پیکربندی یکپارچه‌سازی‌های استاندارد OpenAI را بازتاب می‌دهد. شما به منطق مسیریابی پیچیده‌ای نیاز ندارید. URL پایه تمام هدایت درخواست‌ها را مدیریت می‌کند.

• استفاده Bearer <YOUR_API_KEY> برای احراز هویت.
• کلید بلافاصله پس از ثبت‌نام ایجاد می‌شود.

این امر تضمین می‌کند که پرامپت‌های شما مستقیماً به مدل uncensored ما می‌روند. هیچ میان‌افزاری ورودی شما را فیلتر نمی‌کند. شما بلافاصله به قابلیت‌های مدل دسترسی خام دارید.

POST /v1/chat/completions: ارسال پرامپت شما

یک پیک‌لود JSON به نقطه پایانی تکمیل چت ارسال کنید. این روش استاندارد برای دریافت پاسخ‌های متنی از مدل است. محتوای پیام و دستورالعمل‌های سیستم را تعریف می‌کنید. مدل ورودی شما را پردازش کرده و یک تکمیل را برمی‌گرداند.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

این اندپوینت، تمام نیازهای تولید متن شما را مدیریت می‌کند. می‌توانید پارامترهایی مانند temperature و top_p را تنظیم کنید. پاسخ شامل متن تولید شده و آمار مصرف توکن است. ساده، مستقیم و قابل اعتماد است.

GET /v1/models: اندپوینت خود را بررسی کنید

نقطه پایانی مدل‌ها را برای تأییت اتصال فراخوانی کنید. این کار فهرستی از مدل‌های موجود را برمی‌گرداند. باید ببینید uncensored در پاسخ. این تأیید می‌کند که کلید شما معتبر است و سرویس در حال اجراست.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

از این روش برای بررسی تنظیمات خود پیش از ارسال بارهای کاری سنگین استفاده کنید. این یک بررسی سریع از صحت عملکرد است. اگر endpoint پاسخ دهد، یکپارچه‌سازی شما به درستی کار می‌کند. می‌توانید با اطمینان ادامه دهید.

استریم، حالت JSON و فراخوانی ابزار

استریمینگ را با تنظیم stream: true. API قطعات را همان‌طور که تولید می‌شوند برمی‌گرداند. این امر تأخیر ادراک‌شده را برای پاسخ‌های طولانی کاهش می‌دهد. همچنین می‌توانید خروجی JSON را با استفاده از response_format. این برای تجزیه داده‌های ساختاریافته مفید است.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

فراخوانی تابع از طریق tools پارامتر. ابزارهای خود را در فرمت استاندارد OpenAI تعریف کنید. مدل فراخوانی‌های ابزار را در صورت مناسب بودن خروجی می‌دهد. این اجازه می‌دهد تا جریان‌های کاری عامل پیچیده انجام شود. همه چیز در همان قرارداد API کار می‌کند.

محدودیت‌های نرخ و همزمانی

هر کلید API محدود به ۳۰۰ درخواست در دقیقه است. می‌توانید تا ۸ درخواست همزمان داشته باشید. این محدودیت از انحصار منابع توسط یک مشتری واحد جلوگیری می‌کند. این محدودیت بر اساس کلید است، نه حساب کاربری. کلیدهای خود را مدیریت کنید.

• حداکثر اندازه بدنه درخواست ۸ مگابایت است.
• عبور از محدودیت‌ها خطای ۴۲۹ را برمی‌گرداند.

ظرفیت عبوری خود را بر اساس این محدودیت‌ها برنامه‌ریزی کنید. سیستم برای استفاده مداوم و با حجم بالا طراحی شده است. ترافیک‌های ناگهانی در پنجره درخواست‌های همزمان مدیریت می‌شوند.

خطاها، اعتبار و پنجره زمینه

خطای 401 به این معنی است که کلید شما نامعتبر است. خطای 402 نشان‌دهنده اعتبار ناکافی است. برای ادامه از طریق ارزهای دیجیتال شارژ کنید. خطاها اعتبار شما را مصرف نمی‌کنند. این تضمین می‌کند که تنها برای پاسخ‌های موفق هزینه پرداخت می‌کنید.

پنجره زمینه ۱۰۰,۰۰۰ توکن است. این شامل هم ورودی و هم خروجی می‌شود. می‌توانید max_tokens پیش‌فرض را روی ۲,۰۴۸ تنظیم کنید اگر نیاز است. پرامپت‌های شما برای آموزش استفاده نمی‌شوند. حریم خصوصی در طول فرآیند حفظ می‌شود.

جریان‌سازی

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)