Integrationsguide til den ubegrænsede LLM

Base URL og autentificering

Vores API leveres på https://api.localuncensoredllm.com/v1. Du autentificerer ved at sende din nøgle i Authorization header. Denne opsætning efterligner standard OpenAI-integrationer. Du behøver ikke kompleks routing-logik. Base URL håndterer al anmodningsdirigering.

• Brug Bearer <YOUR_API_KEY> for autorisation.
• Nøglen genereres øjeblikkeligt ved tilmelding.

Dette sikrer, at dine prompts sendes direkte til vores uncensored model. Der er ingen middleware, der filtrerer dit input. Du får rå adgang til modellens funktioner med det samme.

POST /v1/chat/completions: Sending af dit prompt

Send en JSON-payload til chat-completions-endpointet. Dette er den standardmåde at få tekst-svar fra modellen på. Du definerer meddeholdelsesindholdet og systeminstruktionerne. Modellen behandler din input og returnerer en gennemførelse.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

Dette endpoint håndterer alle dine tekstgenereringsbehov. Du kan justere parametre som temperature og top_p. Svaret indeholder den genererede tekst og token-brugsstatistik. Det er simpelt, direkte og pålideligt.

GET /v1/models: Verificering af dit endpoint

Kør forespørgsel på models-endpointet for at bekræfte forbindelsen. Dette returnerer en liste over tilgængelige modeller. Du bør se uncensored i svaret. Dette bekræfter, at din nøgle er gyldig, og at tjenesten kører.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Brug dette til at verificere din opsætning, før du sender tunge belastninger. Det er en hurtig sanity-check. Hvis endpointet responderer, fungerer din integration korrekt. Du kan fortsætte med tillid.

Streaming, JSON-tilstand og værktøjskald

Aktivér streaming ved at indstille stream: true. API'en returnerer chunks, mens de genereres. Dette reducerer den opfattede latens for lange svar. Du kan også tvinge JSON-output ved hjælp af response_format. Dette er nyttigt til parsing af strukturerede data.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Function calling understøttes via tools parameter. Definer dine værktøjer i standard OpenAI-formatet. Modellen vil outputte værktøjskald, når det er passende. Dette muliggør komplekse agent-workflows. Alt fungerer inden for den samme API-kontrakt.

Rate limits og konkurrence

Hver API-nøgle er begrænset til 300 anmodninger i minuttet. Du kan have op til 8 samtidige anmodninger. Dette forhindrer, at enkelte klienter monopoliserer ressourcer. Grænsen er pr. nøgle, ikke pr. konto. Håndtér dine nøgler tilsvarende.

• Maks. request body størrelse er 8 MB.
• Overskridelse af grænserne returnerer en 429-fejl.

Planlæg dit throughput baseret på disse begrænsninger. Systemet er designet til jævn, højvolumen brug. Trafiktoppe håndteres inden for det samtidige anmodningsvindue.

Fejl, kreditter og context window

En 401-fejl betyder, at din nøgle er ugyldig. En 402-fejl indikerer utilstrækkelig kredit. Oplad via krypto for at fortsætte. Fejl forbruger ikke din kredit. Dette sikrer, at du kun betaler for succesfulde svar.

Kontekstvinduet er på 100.000 tokens. Dette omfatter både prompt og completion. Du kan indstille standard max_tokens til 2.048, hvis det er nødvendigt. Dine prompts bruges ikke til træning. Privatlivets integritet opretholdes gennem hele processen.

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)