Guida all'integrazione per LLM uncensored

URL Base e autenticazione

La nostra API si trova a https://api.localuncensoredllm.com/v1. Autenticati passando la tua chiave in Authorization header. Questa configurazione rispecchia le integrazioni standard di OpenAI. Non hai bisogno di logica di routing complessa. L'URL di base gestisce tutto l'instradamento delle richieste.

• Usa Bearer <YOUR_API_KEY> per l'autorizzazione.
• La chiave viene generata istantaneamente al momento della registrazione.

Questo garantisce che i tuoi prompt vengano inviati direttamente al nostro modello uncensored. Non c'è middleware che filtra il tuo input. Ottieni un accesso grezzo alle capacità del modello immediatamente.

POST /v1/chat/completions: Invio del prompt

Invia un payload JSON all'endpoint delle completazioni chat. Questo è il modo standard per ottenere risposte testuali dal modello. Definisci il contenuto del messaggio e le istruzioni di sistema. Il modello elabora il tuo input e restituisce un completamento.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

Questo endpoint gestisce tutte le tue esigenze di generazione di testo. Puoi regolare parametri come temperatura e top_p. La risposta include il testo generato e le statistiche di utilizzo dei token. È semplice, diretto e affidabile.

GET /v1/models: verifica del tuo endpoint

Interroga l'endpoint dei modelli per confermare la connettività. Questo restituisce un elenco di modelli disponibili. Dovresti vedere uncensored nella risposta. Questo conferma che la tua chiave è valida e che il servizio è in esecuzione.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Usa questo per verificare la configurazione prima di inviare carichi di lavoro intensivi. È un rapido controllo di integrità. Se l'endpoint risponde, la tua integrazione funziona correttamente. Puoi procedere con sicurezza.

Streaming, modalità JSON e tool calling

Abilita lo streaming impostando stream: true. L'API restituisce chunk man mano che vengono generati. Questo riduce la latenza percepita per le risposte lunghe. Puoi anche forzare l'output JSON utilizzando response_format. Questo è utile per l'analisi dei dati strutturati.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Il function calling è supportato tramite il tools parametro. Definisci i tuoi strumenti nel formato standard OpenAI. Il modello rilascerà chiamate agli strumenti quando appropriato. Questo consente flussi di lavoro di agenti complessi. Tutto funziona all'interno dello stesso contratto API.

Limiti di frequenza e concorrenza

Ogni chiave API è limitata a 300 richieste al minuto. Puoi effettuare fino a 8 richieste concorrenti. Questo impedisce ai singoli client di monopolizzare le risorse. Il limite è per chiave, non per account. Gestisci le tue chiavi di conseguenza.

• La dimensione massima del corpo della richiesta è di 8 MB.
• Il superamento dei limiti restituisce un errore 429.

Pianifica la tua capacità di elaborazione in base a questi vincoli. Il sistema è progettato per un utilizzo costante e ad alto volume. Il traffico a raffica viene gestito entro la finestra delle richieste concorrenti.

Errori, crediti e finestra di contesto

Un errore 401 significa che la tua chiave non è valida. Un errore 402 indica credito insufficiente. Aggiungi fondi tramite criptovalute per continuare. Gli errori non consumano i tuoi crediti. Questo garantisce che paghi solo per le risposte con esito positivo.

La finestra di contesto è di 100.000 token. Include sia il prompt che il completamento. Puoi impostare il max_tokens predefinito a 2.048 se necessario. I tuoi prompt non vengono utilizzati per l'addestramento. La privacy è mantenuta durante tutto il processo.

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)