Guía de integración para el llm sin censura

URL Base y autenticación

Nuestra API está en https://api.localuncensoredllm.com/v1. Autentícate pasando tu clave en el Authorization header. Esta configuración refleja las integraciones estándar de OpenAI. No necesitas lógica de enrutamiento compleja. La URL base se encarga de dirigir todas las solicitudes.

• Usar Bearer <YOUR_API_KEY> para la autorización.
• La clave se genera instantáneamente al registrarse.

Esto garantiza que tus prompts lleguen directamente a nuestro modelo uncensored. No hay middleware que filtre tu entrada. Obtienes acceso directo a las capacidades del modelo de inmediato.

POST /v1/chat/completions: Envío de tu prompt

Envía una carga útil JSON al punto final de finalizaciones de chat. Esta es la forma estándar de obtener respuestas de texto del modelo. Defines el contenido del mensaje y las instrucciones del sistema. El modelo procesa tu entrada y devuelve una finalización.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

Este extremo maneja todas tus necesidades de generación de texto. Puedes ajustar parámetros como temperatura y top_p. La respuesta incluye el texto generado y las estadísticas de uso de tokens. Es simple, directo y fiable.

GET /v1/models: verificando tu endpoint

Consulta el endpoint de modelos para confirmar la conectividad. Esto devuelve una lista de modelos disponibles. Deberías ver uncensored en la respuesta. Esto confirma que tu clave es válida y el servicio está en ejecución.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Utilice esto para verificar su configuración antes de enviar cargas de trabajo intensivas. Es una comprobación rápida de integridad. Si el endpoint responde, su integración está funcionando correctamente. Puede continuar con confianza.

Streaming, modo JSON y llamada de herramientas

Habilita la transmisión estableciendo stream: true. La API devuelve fragmentos a medida que se generan. Esto reduce la latencia percibida para respuestas largas. También puedes forzar la salida JSON usando response_format. Esto es útil para el análisis de datos estructurados.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

La llamada a funciones es compatible a través del tools parámetro. Define tus herramientas en el formato estándar de OpenAI. El modelo generará llamadas a herramientas cuando sea apropiado. Esto permite flujos de trabajo de agentes complejos. Todo funciona dentro del mismo contrato de API.

Límites de velocidad y concurrencia

Cada clave de API está limitada a 300 solicitudes por minuto. Puedes tener hasta 8 solicitudes concurrentes. Esto evita que un solo cliente monopolice los recursos. El límite es por clave, no por cuenta. Gestiona tus claves en consecuencia.

• El tamaño máximo del cuerpo de la solicitud es de 8 MB.
• Superar los límites devuelve un error 429.

Planifica tu rendimiento basándote en estas limitaciones. El sistema está diseñado para un uso constante y de alto volumen. El tráfico por ráfagas se maneja dentro de la ventana de solicitudes concurrentes.

Errores, créditos y ventana de contexto

Un error 401 significa que tu clave es inválida. Un error 402 indica crédito insuficiente. Recarga mediante criptomonedas para continuar. Los errores no consumen tus créditos. Esto asegura que solo pagues por respuestas exitosas.

La ventana de contexto es de 100.000 tokens. Esto incluye tanto el prompt como la completación. Puedes establecer el max_tokens predeterminado en 2.048 si es necesario. Tus prompts no se utilizan para el entrenamiento. La privacidad se mantiene durante todo el proceso.

Transmisión

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)