Panduan penggabungan untuk LLM tanpa sensor

URL Asas dan pengesahan

API kami terletak di https://api.localuncensoredllm.com/v1. Anda mengesahkan dengan menghantar kunci anda dalam Authorization header. Tetapan ini meniru integrasi OpenAI standard. Anda tidak memerlukan logik laluan yang kompleks. URL asas mengendalikan semua pengarahan permintaan.

• Gunakan Bearer <YOUR_API_KEY> untuk pengesahan.
• Kunci tersebut dijana serta-merta semasa pendaftaran.

Ini memastikan prompt anda dihantar terus ke model tanpa sensor kami. Tiada perisian perantara (middleware) yang menapis input anda. Anda mendapat akses langsung ke keupayaan model dengan serta-merta.

POST /v1/chat/completions: menghantar prompt anda

Hantar muatan JSON ke hujung penyelesaian chat. Ini adalah cara standard untuk mendapatkan respons teks daripada model. Anda menentukan kandungan mesej dan arahan sistem. Model memproses input anda dan mengembalikan penyelesaian.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

Endpoint ini mengendalikan semua keperluan penjanaan teks anda. Anda boleh menyesuaikan parameter seperti suhu dan top_p. Respons termasuk teks yang dijana dan statistik penggunaan token. Ia mudah, langsung, dan boleh dipercayai.

GET /v1/models: mengesahkan hujung anda

Query endpoint model untuk mengesahkan sambungan. Ini mengembalikan senarai model yang tersedia. Anda sepatutnya melihat uncensored dalam respons. Ini mengesahkan kunci anda adalah sah dan perkhidmatan sedang berjalan.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Gunakan ini untuk mengesahkan persediaan anda sebelum menghantar beban kerja berat. Ia adalah pemeriksaan kesihatan pantas. Jika hujung sambungan memberi respons, integrasi anda berfungsi dengan betul. Anda boleh meneruskan dengan yakin.

Penstriman, mod JSON, dan panggilan alat

Aktifkan aliran dengan menetapkan stream: true. API ini memulangkan keping seperti yang dijana. Ini mengurangkan latensi yang dirasakan untuk respons panjang. Anda juga boleh memaksa output JSON menggunakan response_format. Ini berguna untuk penguraian data terstruktur.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Pemanggilan fungsi disokong melalui tools parameter. Takrifkan alat anda dalam format OpenAI standard. Model akan mengeluarkan panggilan alat apabila sesuai. Ini membolehkan aliran kerja agen yang kompleks. Segalanya berfungsi dalam kontrak API yang sama.

Rate limits and concurrency

Setiap kunci API terhad kepada 300 permintaan setiap minit. Anda boleh mempunyai sehingga 8 permintaan serentak. Ini mencegah klien tunggal mendominasi sumber. Had ini adalah per kunci, bukan per akaun. Urus kunci anda dengan sewajarnya.

• Saiz badan permintaan maksimum ialah 8 MB.
• Melampaui had mengembalikan ralat 429.

Rancang kelajuan pemprosesan anda berdasarkan kekangan ini. Sistem direka untuk penggunaan isipadu tinggi yang stabil. Trafik lonjakan ditangani dalam tetingkap permintaan kekoncurrenan.

Kesalahan, kredit, dan tetingkap konteks

Kesilapan 401 bermaksud kunci anda tidak sah. Kesilapan 402 menunjukkan kredit tidak mencukupi. Tambah nilai melalui kripto untuk terus menggunakan perkhidmatan. Kesilapan tidak menggunakan kredit anda. Ini memastikan anda hanya membayar untuk respons yang berjaya.

Tingkap konteks ialah 100,000 token. Ini termasuk prompt dan penyelesaian. Anda boleh menetapkan max_tokens lalai kepada 2,048 jika diperlukan. Prompt anda tidak digunakan untuk latihan. Privasi dikekalkan sepanjang proses.

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)