Guia de integração para o llm sem censura

URL Base e autenticação

Nossa API está em https://api.localuncensoredllm.com/v1. Você autentica passando sua chave no Authorization cabeçalho. Esta configuração espelha as integrações padrão do OpenAI. Você não precisa de lógica de roteamento complexa. A URL base cuida de todo o direcionamento das requisições.

• Usar Bearer <YOUR_API_KEY> para autorização.
• A chave é gerada instantaneamente no cadastro.

Isso garante que seus prompts sejam enviados diretamente para nosso modelo uncensored. Não há middleware filtrando sua entrada. Você tem acesso bruto às capacidades do modelo imediatamente.

POST /v1/chat/completions: enviando seu prompt

Envie um payload JSON para o endpoint de conclusões de chat. Esta é a maneira padrão de obter respostas de texto do modelo. Você define o conteúdo da mensagem e as instruções do sistema. O modelo processa sua entrada e retorna uma conclusão.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

Este endpoint lida com todas as suas necessidades de geração de texto. Você pode ajustar parâmetros como temperatura e top_p. A resposta inclui o texto gerado e estatísticas de uso de tokens. É simples, direto e confiável.

GET /v1/models: verificando seu endpoint

Consulte o endpoint de modelos para confirmar a conectividade. Isso retorna uma lista de modelos disponíveis. Você deve ver uncensored na resposta. Isso confirma que sua chave é válida e o serviço está em execução.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Use isto para verificar sua configuração antes de enviar cargas de trabalho intensivas. É uma verificação rápida de integridade. Se o endpoint responder, sua integração está funcionando corretamente. Você pode prosseguir com confiança.

Streaming, modo JSON e chamada de ferramentas

Ative o streaming definindo stream: true. A API retorna fragmentos conforme são gerados. Isso reduz a latência percebida para respostas longas. Você também pode forçar a saída JSON usando response_format. Isso é útil para análise de dados estruturados.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

As chamadas de função são suportadas via tools parâmetro. Defina suas ferramentas no formato padrão da OpenAI. O modelo emitirá chamadas de ferramentas quando apropriado. Isso permite fluxos de trabalho complexos de agentes. Tudo funciona dentro do mesmo contrato de API.

Limites de taxa e simultaneidade

Cada chave de API está limitada a 300 solicitações por minuto. Você pode ter até 8 solicitações simultâneas. Isso impede que clientes únicos monopolizem os recursos. O limite é por chave, não por conta. Gerencie suas chaves de acordo.

• O tamanho máximo do corpo da solicitação é de 8 MB.
• Exceder os limites retorna um erro 429.

Planeje seu throughput com base nessas restrições. O sistema foi projetado para uso contínuo e de alto volume. O tráfego em rajadas é tratado dentro da janela de requisições concorrentes.

Erros, créditos e janela de contexto

Um erro 401 significa que sua chave é inválida. Um erro 402 indica crédito insuficiente. Adicione saldo via criptomoeda para continuar. Erros não consomem seus créditos. Isso garante que você pague apenas por respostas bem-sucedidas.

A janela de contexto é de 100.000 tokens. Isso inclui tanto o prompt quanto a conclusão. Você pode definir o max_tokens padrão como 2.048, se necessário. Seus prompts não são usados para treinamento. A privacidade é mantida durante todo o processo.

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)