מדריך אינטגרציה ל-LLM ללא צנזורה

כתובת URL בסיסית ואימות

ה-API שלנו נמצא ב- https://api.localuncensoredllm.com/v1. אתה מאשר גישה על ידי העברת המפתח שלך ב Authorization header. תצורה זו משקלמת אינטגרציות סטנדרטיות של OpenAI. אין צורך בלוגיקת ניתוב מורכבת. כתובת הבסיט מטפלת בכל הכוונת הבקשות.

• שימוש Bearer <YOUR_API_KEY> לאישור.
• המפתח נוצר מיד עם ההרשמה.

זה מבטיח שהפראמפטים שלך מגיעים ישירות למודל הלא-צנזורה שלנו. אין ביניים שסונן את הקלט שלך. אתה מקבל גישה גולמית ליכולות המודל מיד.

POST /v1/chat/completions: שליחת הפקודה שלך

שלח גוף JSON לנקודת הקצה של השלמת צ'אט. זו הדרך הסטנדרטית לקבל תגובות טקסט מהמודל. אתה מגדיר את תוכן ההודעה והוראות המערכת. המודל מעבד את הקלט שלך ומחזיר השלמה.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

נקודת הקצה הזו מטפלת בכל צרכי יצירת הטקסט שלכם. ניתן להתאים פרמטרים כמו temperature ו-top_p. התגובה כוללת את הטקסט שנוצר וסטטיסטיקות שימוש בטוקנים. זה פשוט, ישיר ואמין.

GET /v1models: אימות נקודת הקצה שלך

בצע שאילתה על נקודת הקצה של המודלים כדי לאמת חיבוריות. זה מחזיר רשימה של מודלים זמינים. אתה צריך לראות uncensored בתגובה. זה מאשר שהמפתח שלך תקף והשירות פועל.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

השתמשו בזה כדי לאמת את ההגדרות שלכם לפני שליחת עומסים כבדים. זוהי בדיקת בריאות מהירה. אם נקודת הקצה מגיבה, האינטגרציה שלכם עובדת כראוי. אתם יכולים להמשיך בביטחון.

זרימה, מצב JSON וקריאת כלים

אפשרו זרימה על ידי הגדרת stream: true. ה-API מחזיר מקטעים כפי שהם נוצרים. זה מפחית את תחומת השהייה לתגובות ארוכות. אתה יכול גם לכפות פלט JSON באמצעות response_format. זה שימושי לפיענוח נתונים מבניים.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

תמיכה ב-Function calling נתמכת דרך ה- tools פרמטר. הגדירו את הכלים שלכם בפורמט הסטנדרטי של OpenAI. המודל יפלט קריאות לכלים כשמתאים. זה מאפשר זרימות עבודה מורכבות של Agents. הכל עובד בתוך חוזה ה-API הזה.

גבולות קצב ונלוות

כל מפתח API מוגבל ל-300 בקשות לדקה. ניתן להפעיל עד 8 בקשות מקבילות. מגבלה זו מונעת מלקוחות בודדים להשתלט על המשאבים. המגבלה היא לכל מפתח, ולא לכל חשבון. נהל את המפתחות שלך בהתאם.

• גודל גוף הבקשה המקסימלי הוא 8 MB.
• חריגת גבולות מחזירה שגיאה 429.

תכנן את נפח העבודה שלך בהתאם למגבלות אלו. המערכת תוכננה לשימוש יציב ובעל נפח גבוה. תנועת שיאים מטופלת בתוך חלון הבקשות המקבילות.

שגיאות, אשראי וחלון ההקשר

שגיאת 401 משמעה שהמפתח שלך לא חוקי. שגיאת 402 מציינת חסר באשראי. הוסף אשראי באמצעות קריפטו כדי להמשיך. שגיאות לא צורכות את האשראי שלך. זה מבטיח שאתה משלם רק עבור תגובות מוצלחות.

חלון ההקשר מכיל 100,000 טוקנים. זה כולל גם את הפלט וגם את ההשלמה. ניתן להגדיר את max_tokens ברירת המחדל ל-2,048 אם צריך. הפלטים שלכם לא משמשים לאימון. הפרטיות נשמרת לאורך כל התהליך.

זרימה

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)