คู่มือการเชื่อมต่อ LLM แบบไม่มีเซนเซอร์

URL ฐานและการตรวจสอบสิทธิ์

API ของเราอยู่ที่ https://api.localuncensoredllm.com/v1. คุณตรวจสอบสิทธิ์โดยการส่งคีย์ของคุณใน Authorization header. การตั้งค่านี้จำลองการผสานรวมมาตรฐานของ OpenAI คุณไม่จำเป็นต้องใช้ตรรกะการกำหนดเส้นทางที่ซับซ้อน URL พื้นฐานจะจัดการการกำหนดทิศทางคำขอทั้งหมด

• ใช้ Bearer <YOUR_API_KEY> สำหรับการอนุญาต
• คีย์ถูกสร้างขึ้นทันทีหลังจากสมัครสมาชิก

สิ่งนี้ช่วยให้คำขอของคุณส่งตรงไปยังโมเดล uncensored ของเรา ไม่มีมิดเดิลแวร์กรองข้อมูลนำเข้าของคุณ คุณเข้าถึงความสามารถของโมเดลแบบดิบได้ทันที

POST /v1/chat/completions: การส่ง prompt ของคุณ

ส่ง payload JSON ไปยัง endpoint chat completions นี่คือวิธีมาตรฐานในการรับข้อความตอบกลับจากโมเดล คุณกำหนดเนื้อหาข้อความและคำแนะนำระบบ โมเดลจะประมวลผลข้อมูลนำเข้าของคุณและส่งการ completion กลับมา

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

เอนด์พอยต์นี้จัดการความต้องการการสร้างข้อความทั้งหมดของคุณ คุณสามารถปรับพารามิเตอร์เช่น temperature และ top_p ได้ ผลลัพธ์จะรวมถึงข้อความที่สร้างและสถิติการใช้งาน tokens ระบบนี้เรียบง่าย ตรงไปตรงมา และเชื่อถือได้

GET /v1/models: ตรวจสอบ endpoint ของคุณ

สอบถาม endpoint ของโมเดลเพื่อยืนยันการเชื่อมต่อ ซึ่งผลลัพธ์จะเป็นรายการโมเดลที่พร้อมใช้งาน คุณควรเห็น uncensored ในการตอบกลับ สิ่งนี้ยืนยันว่าคีย์ของคุณถูกต้องและบริการทำงานอยู่

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

ใช้สิ่งนี้เพื่อตรวจสอบการตั้งค่าของคุณก่อนส่งภาระงานหนัก เป็นการตรวจสอบความถูกต้องอย่างรวดเร็ว หาก endpoint ตอบสนอง แสดงว่าการผสานรวมของคุณทำงานได้อย่างถูกต้อง คุณสามารถดำเนินการต่อได้อย่างมั่นใจ

การสตรีม โหมด JSON และการเรียกใช้เครื่องมือ

เปิดใช้งานการสตรีมโดยตั้งค่า stream: true. API ส่ง chunk ทันทีที่สร้าง ช่วยลดความล่าช้าที่ผู้ใช้รู้สึกได้สำหรับคำตอบยาว คุณยังสามารถบังคับใช้เอาต์พุต JSON โดยใช้ response_format. สิ่งนี้มีประโยชน์สำหรับการแยกวิเคราะห์ข้อมูลที่มีโครงสร้าง

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

รองรับ Function Calling ผ่าน tools พารามิเตอร์ กำหนดเครื่องมือของคุณในรูปแบบมาตรฐานของ OpenAI โมเดลจะส่งเอาท์พุตการเรียกใช้เครื่องมือเมื่อเหมาะสม สิ่งนี้อนุญาตให้ใช้เวิร์กโฟลว์เอเจนต์ที่ซับซ้อน ทุกอย่างทำงานภายในสัญญา API เดียวกัน

อัตราการใช้งานและความพร้อมใช้งานพร้อมกัน

คีย์ API แต่ละตัวจำกัดอยู่ที่ 300 คำขอต่อนาที คุณสามารถส่งคำขอพร้อมกันได้สูงสุด 8 คำขอ ซึ่งช่วยป้องกันไม่ให้ไคลเอนต์เดียวใช้ทรัพยากรทั้งหมด ขีดจำกัดนี้กำหนดต่อคีย์ ไม่ใช่ต่อบัญชี โปรดจัดการคีย์ของคุณให้เหมาะสม

• ขนาดร่างกายคำขอสูงสุดคือ 8 MB
• การเกินขีดจำกัดจะส่งข้อผิดพลาด 429

วางแผนปริมาณงานของคุณตามข้อจำกัดเหล่านี้ ระบบถูกออกแบบมาสำหรับการใช้งานปริมาณสูงอย่างต่อเนื่อง การจราจรแบบพุ่งขึ้นจะถูกจัดการภายในหน้าต่างคำขอพร้อมกัน

ข้อผิดพลาด เครดิต และหน้าต่างบริบท

รหัสข้อผิดพลาด 401 หมายถึงคีย์ของคุณไม่ถูกต้อง รหัสข้อผิดพลาด 402 หมายถึงยอดเงินไม่เพียงพอ ให้เติมเงินผ่านคริปโตเพื่อใช้งานต่อ ข้อผิดพลาดจะไม่ใช้ยอดเงินของคุณ ซึ่งช่วยให้คุณจ่ายเฉพาะสำหรับการตอบกลับที่สำเร็จเท่านั้น

หน้าต่างบริบทมีขนาด 100,000 tokens ซึ่งรวมถึง prompt และ completion คุณสามารถ generate output ได้สูงสุด 16,000 tokens ต่อ request ตั้งค่า max_tokens เริ่มต้นเป็น 2,048 หากจำเป็น Prompt ของคุณไม่ถูกนำไปใช้ในการฝึกโมเดล รักษาความเป็นส่วนตัวตลอดกระบวนการ

การสตรีม

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)