Οδηγός ενσωμάτωσης για το uncensored llm

Βασικό URL και αυθεντικοποίηση

Το API μας βρίσκεται στο https://api.localuncensoredllm.com/v1. Κάνετε έλεγχο ταυτότητας περνώντας το κλειδί σας στο Authorization header. Αυτή η ρύθμιση μιμείται τις τυπικές ενσωματώσεις της OpenAI. Δεν χρειάζεστε πολύπλοκη λογική διαδρομής. Το base URL αναλαμβάνει όλη την κατεύθυνση των αιτημάτων.

• Χρήση Bearer <YOUR_API_KEY> για εξουσιοδότηση.
• Το key δημιουργείται ακαριαία κατά την εγγραφή.

Αυτό εξασφαλίζει ότι τα prompts σας πηγαίνουν απευθείας στο uncensored μοντέλο μας. Δεν υπάρχει middleware που να φιλτράρει την είσοδό σας. Έχετε άμεση ωμή πρόσβαση στις δυνατότητες του μοντέλου.

POST /v1/chat/completations: Αποστολή του prompt σας

Στείλτε ένα payload JSON στο endpoint chat completions. Αυτός είναι ο τυπικός τρόπος για να λάβετε απαντήσεις κειμένου από το μοντέλο. Ορίζετε το περιεχόμενο του μηνύματος και τις οδηγίες συστήματος. Το μοντέλο επεξεργάζεται την είσοδό σας και επιστρέφει μια ολοκλήρωση.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

Αυτό το endpoint διαχειρίζεται όλες τις ανάγκες παραγωγής κειμένου σας. Μπορείτε να ρυθμίσετε παραμέτρους όπως temperature και top_p. Η απάντηση περιλαμβάνει το παραγόμενο κείμενο και στατιστικά χρήσης tokens. Είναι απλό, άμεσο και αξιόπιστο.

GET /v1/models: επαλήθευση του endpoint σας

Κάντε ερώτημα στο endpoint των μοντέλων για να επιβεβαιώσετε τη συνδεσιμότητα. Αυτό επιστρέφει μια λίστα διαθέσιμων μοντέλων. Θα πρέπει να δείτε uncensored στο response. Αυτό επιβεβαιώνει ότι το κλειδί σας είναι έγκυρο και η υπηρεσία λειτουργεί.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Χρησιμοποιήστε αυτό για να επαληθεύσετε τη ρύμισή σας πριν στείλετε βαριά φορτία εργασίας. Είναι ένας γρήγορος έλεγχος διαπίστωσης. Αν η διεπαφή ανταποκριθεί, η ενσωμάτωσή σας λειτουργεί σωστά. Μπορείτε να προχωρήσετε με σιγουριά.

Streaming, λειτουργία JSON και κλήση εργαλείων

Ενεργοποιήστε streaming ρυθμίζοντας stream: true. Η API επιστρέφει chunks καθώς παράγονται. Αυτό μειώνει την αντιλαμβανόμενη καθυστέρηση για μακρές απαντήσεις. Μπορείτε επίσης να εξαναγκάσετε έξοδο JSON χρησιμοποιώντας response_format. Αυτό είναι χρήσιμο για την ανάλυση δομημένων δεδομένων.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Η κλήση συναρτήσεων υποστηρίζεται μέσω της tools parameter. Ορίστε τα εργαλεία σας στη τυπική μορφή OpenAI. Το μοντέλο θα εξάγει κλήσεις εργαλείων όταν είναι κατάλληλο. Αυτό επιτρέπει πολύπλοκες ροές εργασίας πρακτόρων. Όλα λειτουργούν μέσα από το ίδιο συμβόλαιο API.

Περιορισμοί ρυθμού και ταυτόχρονα αιτήματα

Κάθε κλειδί API περιορίζεται σε 300 αιτήσεις ανά λεπτό. Μπορείτε να έχετε έως 8 ταυτόχρονες αιτήσεις. Αυτό αποτρέπει τους μεμονωμένους πελάτες από το να μονοπωλούν τους πόρους. Το όριο ισχύει ανά κλειδί, όχι ανά λογαριασμό. Διαχειριστείτε τα κλειδιά σας ανάλογα.

• Το μέγιστο μέγεθος σώματος αιτήματος είναι 8 MB.
• Η υπέρβαση ορίων επιστρέφει σφάλμα 429.

Σχεδιάστε τη χωρητικότητά σας με βάση αυτούς τους περιορισμούς. Το σύστημα είναι σχεδιασμένο για σταθερή, υψηλής χωρητικότητας χρήση. Η ριπή κίνησης διαχειρίζεται εντός του παραθύρου ταυτόχρονων αιτημάτων.

Σφάλματα, πιστωτικά υπόλοιπα και παράθυρο συμφραζομένων

Ένα σφάλμα 401 σημαίνει ότι το key σας είναι μη έγκυρο. Ένα σφάλμα 402 υποδεικνύει ανεπαρκές υπόλοιπο. Προσθέστε κεφάλαιο μέσω κρυπτονομισμάτων για να συνεχίσετε. Τα σφάλματα δεν καταναλώνουν τα credits σας. Αυτό διασφαλίζει ότι πληρώνετε μόνο για επιτυχείς αποκρίσεις.

Το παράθυρο συμφραζομένων είναι 100.000 tokens. Αυτό περιλαμβάνει τόσο την εντολή όσο και την απάντηση. Μπορείτε να ορίσετε προεπιλεγμένο max_tokens 2.048 αν χρειαστεί. Οι εντολές σας δεν χρησιμοποιούνται για εκπαίδευση. Η ιδιωτικότητα διατηρείται σε όλη τη διαδικασία.

Ροή

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)