Руководство по интеграции с LLM без цензуры

Базовый URL и аутентификация

Наш API находится по адресу https://api.localuncensoredllm.com/v1. Вы аутентифицируетесь, передавая ваш ключ в Authorization header. Эта настройка зеркально отражает стандартные интеграции OpenAI. Вам не нужна сложная логика маршрутизации. Базовый URL обрабатывает всю маршрутизацию запросов.

• Использовать Bearer <YOUR_API_KEY> для авторизации.
• Ключ генерируется мгновенно при регистрации.

Это обеспечивает прямую передачу ваших промптов в нашу uncensored модель. Нет промежуточного ПО, фильтрующего ваш ввод. Вы получаете прямой доступ к возможностям модели сразу.

POST /v1/chat/completions: Отправка вашего промпта

Отправьте JSON-пэйлоад на эндпоинт chat completions. Это стандартный способ получения текстовых ответов от модели. Вы определяете содержимое сообщений и системные инструкции. Модель обрабатывает ваш ввод и возвращает завершение.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

Этот эндпоинт решает все ваши задачи по генерации текста. Вы можете настраивать параметры, такие как temperature и top_p. В ответе содержится сгенерированный текст и статистика использования токенов. Это просто, прямолинейно и надёжно.

GET /v1/models: проверка вашей конечной точки

Запрос эндпоинта моделей для подтверждения подключения. Возвращается список доступных моделей. Вы должны увидеть uncensored в ответе. Это подтверждает, что ваш ключ действителен и сервис работает.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Используйте это для проверки вашей настройки перед отправкой больших нагрузок. Это быстрая проверка работоспособности. Если конечная точка отвечает, ваша интеграция работает правильно. Вы можете продолжать с уверенностью.

Стриминг, JSON-режим и вызов инструментов

Включите потоковую передачу, установив stream: true. API возвращает чанки по мере их генерации. Это снижает воспринимаемую задержку для длинных ответов. Вы также можете принудительно получить вывод в формате JSON, используя response_format. Это полезно для разбора структурированных данных.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Вызов функций поддерживается через tools параметр. Определите свои инструменты в стандартном формате OpenAI. Модель будет выводить вызовы инструментов, когда это уместно. Это позволяет создавать сложные рабочие процессы агентов. Все работает в рамках одного контракта API.

Лимиты запросов и параллельность

Каждый API-ключ ограничен 300 запросами в минуту. Одновременно может быть выполнено до 8 запросов. Это предотвращает монополизацию ресурсов отдельными клиентами. Лимит действует на каждый ключ, а не на аккаунт в целом. Управляйте ключами соответствующим образом.

• Максимальный размер тела запроса составляет 8 МБ.
• Превышение лимитов возвращает ошибку 429.

Планируйте пропускную способность с учетом этих ограничений. Система предназначена для стабильного использования в больших объемах. Пиковый трафик обрабатывается в пределах окна параллельных запросов.

Ошибки, кредиты и окно контекста

Ошибка 401 означает, что ваш ключ недействителен. Ошибка 402 указывает на недостаточный баланс. Пополните счет через криптовалюту, чтобы продолжить. Ошибки не расходуют ваши средства. Это гарантирует, что вы платите только за успешные ответы.

Окно контекста составляет 100 000 токенов. Оно включает как промпт, так и ответ. Вы можете установить max_tokens по умолчанию равным 2 048, если необходимо. Ваши промпты не используются для обучения. Конфиденциальность сохраняется на протяжении всего процесса.

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)