Integrationsguide för den obegränsade LLM:en

Bas URL och autentisering

Vårt API finns på https://api.localuncensoredllm.com/v1. Du autentiserar genom att skicka din nyckel i Authorization header. Denna konfiguration speglar standard OpenAI-integrationer. Du behöver ingen komplex omdirigeringslogik. Bas-URL:en hanterar all begäransdirigering.

• Använd Bearer <YOUR_API_KEY> för auktorisation.
• Nyckeln genereras omedelbart vid registrering.

Detta säkerställer att dina prompts skickas direkt till vår obegränsade modell. Det finns ingen mjukvara som filtrerar din input. Du får rå åtkomst till modellens funktioner omedelbart.

POST /v1/chat/completions: Skicka din prompt

Skicka en JSON-payload till chat-completions-slutpunkten. Detta är det standardmässiga sättet att få textsvar från modellen. Du definierar meddelandeinnehållet och systeminstruktionerna. Modellen bearbetar din input och returnerar en komplettering.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

Denna slutpunkt hanterar alla dina textgenereringsbehov. Du kan justera parametrar som temperatur och top_p. Svaret inkluderar den genererade texten och tokenanvändningsstatistik. Det är enkelt, direkt och pålitligt.

GET /v1/models: verifiera din slutpunkt

Fråga models-slutpunkten för att bekräfta anslutningen. Detta returnerar en lista över tillgängliga modeller. Du bör se uncensored i svaret. Detta bekräftar att din nyckel är giltig och att tjänsten körs.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Använd detta för att verifiera din installation innan du skickar tunga arbetsbelastningar. Det är en snabb kontroll. Om slutpunkten svarar fungerar din integration korrekt. Du kan fortsätta med självförtroende.

Streaming, JSON-läge och verktygssamling

Aktivera strömning genom att ställa in stream: true. API:et returnerar chunkar när de genereras. Detta minskar den upplevda latensen för långa svar. Du kan också tvinga fram JSON-utdata med response_format. Detta är användbart för parsing av strukturerad data.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Function calling stöds via den tools parameter. Definiera dina verktyg i standard OpenAI-format. Modellen kommer att mata ut verktygsanrop när det är lämpligt. Detta möjligger komplexa agentarbetsflöden. Allt fungerar inom samma API-kontrakt.

Begäransgränser och parallellitet

Varje API-nyckel är begränsad till 300 förfrågningar per minut. Du kan ha upp till 8 samtidiga förfrågningar. Detta förhindrar att enskilda klienter monopoliserar resurserna. Gränsen gäller per nyckel, inte per konto. Hantera dina nyckar därefter.

• Max storlek på kropp för begäran är 8 MB.
• Att överskrida gränserna returnerar ett 429-fel.

Planera din genomströmning baserat på dessa begränsningar. Systemet är utformat för stadig, högvolymbruk. Trafiktoppar hanteras inom fönstret för parallella förfrågningar.

Fel, krediter och kontextfönster

Ett 401-fel betyder att din nyckel är ogiltig. Ett 402-fel indikerar otillräcklig kredit. Ladda upp via krypto för att fortsätta. Fel konsumerar inte dina kredit. Detta säkerställer att du bara betalar för lyckade svar.

Kontextrutan är 100 000 tokens. Detta omfattar både prompt och svar. Du kan ange standard max_tokens till 2 048 om det behövs. Dina prompts används inte för träning. Integriteten upprätthålls genom hela processen.

Strömning

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)