Panduan integrasi untuk LLM uncensored

URL Dasar dan autentikasi

API kami berada di https://api.localuncensoredllm.com/v1. Anda mengautentikasi dengan meneruskan kunci Anda di Authorization header. Konfigurasi ini meniru integrasi OpenAI standar. Anda tidak perlu logika routing yang rumit. URL dasar menangani semua pengarahan permintaan.

• Gunakan Bearer <YOUR_API_KEY> untuk otorisasi.
• Kunci dibuat secara instan saat pendaftaran.

Ini memastikan prompt Anda dikirim langsung ke model uncensored kami. Tidak ada middleware yang memfilter input Anda. Anda mendapatkan akses langsung ke kemampuan model segera.

POST /v1/chat/completions: Mengirim prompt Anda

Kirim payload JSON ke endpoint chat completions. Ini adalah cara standar untuk mendapatkan respons teks dari model. Anda menentukan konten pesan dan instruksi sistem. Model memproses input Anda dan mengembalikan completion.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

Endpoint ini menangani semua kebutuhan generasi teks Anda. Anda dapat menyesuaikan parameter seperti suhu dan top_p. Respons mencakup teks yang dihasilkan dan statistik penggunaan token. Ini sederhana, langsung, dan andal.

GET /v1/models: memverifikasi endpoint Anda

Kirim pertanyaan ke endpoint models untuk mengonfirmasi konektivitas. Ini mengembalikan daftar model yang tersedia. Anda harus melihat uncensored dalam respons. Ini mengonfirmasi bahwa kunci Anda valid dan layanan berjalan.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Gunakan ini untuk memverifikasi pengaturan Anda sebelum mengirim beban kerja berat. Ini adalah pemeriksaan kesehatan cepat. Jika endpoint merespons, integrasi Anda berfungsi dengan benar. Anda dapat melanjutkan dengan percaya diri.

Streaming, mode JSON, dan pemanggilan alat

Aktifkan streaming dengan mengatur stream: true. API mengembalikan chunk saat dihasilkan. Ini mengurangi latensi yang dirasakan untuk respons panjang. Anda juga dapat memaksa output JSON menggunakan response_format. Ini berguna untuk penguraian data terstruktur.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Pemanggilan fungsi didukung melalui tools parameter. Tentukan alat Anda dalam format OpenAI standar. Model akan mengeluarkan panggilan alat ketika sesuai. Ini memungkinkan alur kerja agen yang kompleks. Semua bekerja dalam kontrak API yang sama.

Batas laju dan konkurensi

Setiap kunci API dibatasi hingga 300 permintaan per menit. Anda dapat memiliki hingga 8 permintaan simultan. Ini mencegah klien tunggal memonopoli sumber daya. Batasan ini berlaku per kunci, bukan per akun. Kelola kunci Anda dengan tepat.

• Ukuran badan permintaan maksimal adalah 8 MB.
• Melebihi batas mengembalikan kesalahan 429.

Rencanakan throughput Anda berdasarkan batasan ini. Sistem dirancang untuk penggunaan volume tinggi yang stabil. Lalu lintas lonjakan ditangani dalam jendela permintaan konkurensi.

Kesalahan, kredit, dan jendela konteks

Kesalahan 401 berarti kunci Anda tidak valid. Kesalahan 402 menunjukkan kredit tidak cukup. Tambah saldo melalui kripto untuk melanjutkan. Kesalahan tidak mengonsumsi kredit Anda. Ini memastikan Anda hanya membayar untuk respons yang berhasil.

Jendela konteks adalah 100.000 token. Ini mencakup prompt dan completion. Anda dapat mengatur max_tokens default menjadi 2.048 jika diperlukan. Prompt Anda tidak digunakan untuk pelatihan. Privasi dipertahankan sepanjang proses.

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)