Guide d'intégration du LLM sans censure

URL de base et authentification

Notre API se trouve à https://api.localuncensoredllm.com/v1. Vous vous authentifiez en transmettant votre clé dans le Authorization header. Cette configuration imite les intégrations OpenAI standards. Vous n'avez pas besoin de logique de routage complexe. L'URL de base gère tout l'acheminement des requêtes.

• Utiliser Bearer <YOUR_API_KEY> pour l'autorisation.
• La clé est générée instantanément lors de l'inscription.

Cela garantit que vos prompts sont envoyés directement à notre modèle uncensored. Aucun middleware ne filtre votre entrée. Vous avez un accès brut aux capacités du modèle immédiatement.

POST /v1/chat/completions : Envoi de votre invite

Envoyez un payload JSON au point de terminaison des complétions de chat. C'est la méthode standard pour obtenir des réponses textuelles du modèle. Vous définissez le contenu du message et les instructions système. Le modèle traite votre entrée et renvoie une complétion.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

Ce point de terminaison gère tous vos besoins de génération de texte. Vous pouvez ajuster des paramètres comme la température et le top_p. La réponse inclut le texte généré et les statistiques d'utilisation des tokens. C'est simple, direct et fiable.

GET /v1/models : vérification de votre endpoint

Interrogez le point de terminaison des modèles pour confirmer la connectivité. Cela renvoie une liste de modèles disponibles. Vous devriez voir uncensored dans la réponse. Cela confirme que votre clé est valide et que le service est en cours d'exécution.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Utilisez ceci pour vérifier votre configuration avant d'envoyer des charges de travail lourdes. Il s'agit d'une vérification rapide de bon sens. Si le point de terminaison répond, votre intégration fonctionne correctement. Vous pouvez procéder en toute confiance.

Streaming, mode JSON et appel d'outils

Activez le streaming en définissant stream: true. L'API renvoie des fragments à mesure de leur génération. Cela réduit la latence perçue pour les réponses longues. Vous pouvez également forcer la sortie JSON en utilisant response_format. C'est utile pour l'analyse de données structurées.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

L'appel de fonctions est pris en charge via le tools paramètre. Définissez vos outils au format standard OpenAI. Le modèle produira des appels d'outils lorsque cela sera approprié. Cela permet des flux de travail d'agents complexes. Tout fonctionne dans le même contrat d'API.

Limites de taux et concurrence

Chaque clé API est limitée à 300 requêtes par minute. Vous pouvez effectuer jusqu'à 8 requêtes simultanées. Cela empêche les clients uniques de monopoliser les ressources. La limite s'applique par clé, et non par compte. Gérez vos clés en conséquence.

• La taille maximale du corps de la requête est de 8 Mo.
• Le dépassement des limites renvoie une erreur 429.

Planifiez votre débit en fonction de ces contraintes. Le système est conçu pour une utilisation régulière et à fort volume. Le trafic par rafales est géré dans la fenêtre de requêtes concurrentes.

Erreurs, crédits et fenêtre de contexte

Une erreur 401 signifie que votre clé est invalide. Une erreur 402 indique un crédit insuffisant. Rechargez via crypto pour continuer. Les erreurs ne consomment pas vos crédits. Cela garantit que vous ne payez que pour les réponses réussies.

La fenêtre de contexte est de 100 000 tokens. Cela inclut à la fois l'invite et la complétion. Vous pouvez définir max_tokens par défaut à 2 048 si nécessaire. Vos invites ne sont pas utilisées pour l'entraînement. La confidentialité est maintenue tout au long du processus.

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)