Integratiegids voor de uncensored LLM

Basis-URL en authenticatie

Onze API bevindt zich op https://api.localuncensoredllm.com/v1. Je authenticeert door je sleutel mee te sturen in de Authorization header. Deze opstelling lijkt op standaard OpenAI-integraties. Je hebt geen complexe routinglogica nodig. De basis-URL regelt alle request-direction.

• Gebruik Bearer <YOUR_API_KEY> voor autorisatie.
• De sleutel wordt direct gegenereerd bij het aanmelden.

Dit zorgt ervoor dat je prompts direct naar ons ongecensureerde model gaan. Er is geen middleware die je invoer filtert. Je krijgt direct ruwe toegang tot de mogelijkheden van het model.

POST /v1/chat/completions: je prompt versturen

Verstuur een JSON-payload naar het chatcompleties-eindpunt. Dit is de standaardmanier om tekstantwoorden van het model te krijgen. U definieert de berichtinhoud en systeem-instructies. Het model verwerkt uw invoer en retourneert een voltooiing.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

Dit endpoint behandelt al je tekstgeneratiebehoeften. Je kunt parameters aanpassen zoals temperatuur en top_p. Het antwoord bevat de gegenereerde tekst en tokenverbruikstatistieken. Het is eenvoudig, direct en betrouwbaar.

GET /v1/models: je eindpunt verifiëren

Vraag het modellen-eindpunt op om de connectiviteit te bevestigen. Dit retourneert een lijst met beschikbare modellen. Je zou uncensored in de respons. Dit bevestigt dat uw sleutel geldig is en de service draait.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Gebruik dit om je setup te verifiëren voordat je zware workloads verstuurt. Het is een snelle sanity check. Als het endpoint reageert, werkt je integratie correct. Je kunt met vertrouwen verdergaan.

Streaming, JSON-modus en tool calling

Activeer streaming door stream: true. De API retourneert chunks zoals ze worden gegenereerd. Dit vermindert de waargenomen latentie voor lange antwoorden. Je kunt ook JSON-uitvoer afdwingen met response_format. Dit is nuttig voor gestructureerd gegevensparseren.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Function calling wordt ondersteund via de tools parameter. Definieer je tools in het standaard OpenAI-formaat. Het model zal tool-aanroepen uitvoeren wanneer dat gepast is. Dit stelt complexe agent-workflows mogelijk. Alles werkt binnen hetzelfde API-contract.

Rate limits and concurrency

Elke API-sleutel is beperkt tot 300 verzoeken per minuut. U kunt maximaal 8 gelijktijdige verzoeken uitvoeren. Dit voorkomt dat één client de resources monopoliseert. De limiet geldt per sleutel, niet per account. Beheer uw sleutels dienovereenkomstig.

• De maximale request body size is 8 MB.
• Het overschrijden van limieten retourneert een 429-fout.

Plan je doorvoer op basis van deze beperkingen. Het systeem is ontworpen voor gestage, hoogvolume gebruik. Pieken in verkeer worden verwerkt binnen het venster voor gelijktijdige verzoeken.

Fouten, krediet en contextvenster

Een 401-fout betekent dat uw sleutel ongeldig is. Een 402-fout geeft aan dat er onvoldoende krediet is. Laad op via crypto om door te gaan. Fouten verbruiken niet uw krediet. Dit zorgt ervoor dat u alleen betaalt voor succesvolle antwoorden.

Het contextvenster is 100.000 tokens. Dit omvat zowel de prompt als de completion. Je kunt de standaard max_tokens op 2.048 instellen indien nodig. Je prompts worden niet gebruikt voor training. Privacy wordt gedurende het hele proces behouden.

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)