Integrationsleitfaden für das unzensierte LLM

Basis-URL und Authentifizierung

Unsere API befindet sich unter https://api.localuncensoredllm.com/v1. Authentifizieren Sie sich, indem Sie Ihren Schlüssel im Authorization header. Dieses Setup spiegelt Standard-OpenAI-Integrationen wider. Sie benötigen keine komplexe Routing-Logik. Die Basis-URL leitet alle Anfragen weiter.

• Verwenden Bearer <YOUR_API_KEY> für die Autorisierung.
• Der Schlüssel wird sofort nach der Anmeldung generiert.

Dies stellt sicher, dass Ihre Prompts direkt an unser unzensiertes Modell gesendet werden. Es gibt keine Middleware, die Ihre Eingabe filtert. Sie erhalten sofortigen Rohzugriff auf die Fähigkeiten des Modells.

POST /v1/chat/completions: Ihren Prompt senden

Senden Sie ein JSON-Payload an den Chat-Vervollständigungs-Endpunkt. Dies ist der Standardweg, um Textantworten vom Modell zu erhalten. Sie definieren den Nachrichteninhalt und die Systemanweisungen. Das Modell verarbeitet Ihre Eingabe und gibt eine Vervollständigung zurück.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

Dieser Endpunkt deckt alle Ihre Textgenerierungsbedürfnisse ab. Sie können Parameter wie Temperatur und top_p anpassen. Die Antwort enthält den generierten Text und die Token-Nutzungsstatistiken. Sie ist einfach, direkt und zuverlässig.

GET /v1/models: Überprüfung Ihres Endpunkts

Fragen an den Models-Endpunkt stellen, um die Konnektivität zu bestätigen. Dies gibt eine Liste der verfügbaren Modelle zurück. Sie sollten uncensored in der Antwort. Dies bestätigt, dass Ihr Schlüssel gültig ist und der Dienst läuft.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Verwenden Sie dies, um Ihre Einrichtung zu überprüfen, bevor Sie große Lasten senden. Es ist eine schnelle Funktionsprüfung. Wenn der Endpunkt antwortet, funktioniert Ihre Integration korrekt. Sie können mit Zuversicht fortfahren.

Streaming, JSON-Modus und Tool-Calling

Aktivieren Sie Streaming, indem Sie stream: true. Die API gibt Chunks zurück, sobald sie generiert werden. Dies reduziert die wahrgenommene Latenz für lange Antworten. Sie können auch JSON-Ausgabe erzwingen, indem Sie response_format. Dies ist nützlich für das Parsen strukturierter Daten.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Function Calling wird über den tools Parameter. Definieren Sie Ihre Tools im Standard-OpenAI-Format. Das Modell gibt Tool-Aufrufe aus, wenn dies angemessen ist. Dies ermöglicht komplexe Agenten-Workflows. Alles funktioniert innerhalb desselben API-Vertrags.

Rate-Limits und Parallelität

Jeder API-Schlüssel ist auf 300 Anfragen pro Minute begrenzt. Sie können bis zu 8 gleichzeitige Anfragen ausführen. Dies verhindert, dass einzelne Clients die Ressourcen monopolisieren. Das Limit gilt pro Schlüssel, nicht pro Konto. Verwalten Sie Ihre Schlüssel entsprechend.

• Die maximale Größe des Anforderungstextes beträgt 8 MB.
• Das Überschreiten der Grenzen gibt einen 429-Fehler zurück.

Planen Sie Ihren Durchsatz basierend auf diesen Einschränkungen. Das System ist für gleichmäßigen, hochvolumigen Einsatz ausgelegt. Verkehrsspitzen werden innerhalb des Fensters für gleichzeitige Anfragen behandelt.

Fehler, Guthaben und Kontextfenster

Ein 401-Fehler bedeutet, dass Ihr Schlüssel ungültig ist. Ein 402-Fehler zeigt unzureichendes Guthaben an. Laden Sie über Kryptowährungen auf, um fortzufahren. Fehler verbrauchen nicht Ihr Guthaben. Dies stellt sicher, dass Sie nur für erfolgreiche Antworten bezahlen.

Das Context-Window beträgt 100.000 Tokens. Dies umfasst sowohl den Prompt als auch die Completion. Sie können den Standardwert für max_tokens auf 2.048 festlegen, falls erforderlich. Ihre Prompts werden nicht zum Training verwendet. Die Privatsphäre wird während des gesamten Prozesses gewahrt.

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)