uncensored LLM 통합 가이드

Base URL 및 인증

우리 API는 다음 주소에 있습니다. https://api.localuncensoredllm.com/v1키를 전달하여 인증합니다. Authorization header. 이 설정은 표준 OpenAI 통합과 동일합니다. 복잡한 라우팅 로직이 필요하지 않습니다. 베이스 URL이 모든 요청 지시를 처리합니다.

• 사용 Bearer <YOUR_API_KEY> 인증에 대해.
• 키는 가입 시 즉시 생성됩니다.

프롬프트가 미들웨어 필터링 없이 비검열 모델로 직접 전달되도록 보장합니다. 입력에 필터링이 적용되지 않습니다. 모델의 기능에 즉시 원시 접근이 가능합니다.

POST /v1/chat/completions: 프롬프트 보내기

chat completions 엔드포인트로 JSON 페이로드를 보내세요. 이는 모델에서 텍스트 응답을 얻는 표준 방법입니다. 메시지 내용과 시스템 지시사항을 정의합니다. 모델이 입력을 처리하고 완료를 반환합니다.

Copycurl https://api.localuncensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit height in meters"}]
  }'

이 엔드포인트는 모든 텍스트 생성 요구사항을 처리합니다. 온도 및 top_p과 같은 매개변수를 조정할 수 있습니다. 응답에는 생성된 텍스트와 토큰 사용 통계가 포함됩니다. 단순하고 직접적이며 신뢰할 수 있습니다.

GET /v1/models: 엔드포인트 검증

연결을 확인하기 위해 모델 엔드포인트를 쿼리합니다. 이는 사용 가능한 모델의 목록을 반환합니다. 을 확인해야 합니다. uncensored 응답에서. 이는 키가 유효하고 서비스가 실행 중임을 확인합니다.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.localuncensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

무거운 부하를 전송하기 전에 설정을 확인하려면 이 명령을 사용하세요. 빠른 상태 확인입니다. 엔드포인트가 응답하면 통합이 올바르게 작동합니다. 자신 있게 진행할 수 있습니다.

스트리밍, JSON 모드, 도구 호출

stream을 true로 설정하여 스트리밍 활성화 stream: true. API는 생성되는 대로 청크를 반환합니다. 이는 긴 응답에 대한 지각된 지연 시간을 줄여줍니다. 또한 다음을 사용하여 JSON 출력을 강제로 요청할 수 있습니다. response_format. 구조화된 데이터 구문 분석에 유용합니다.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.localuncensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

함수 호출은 tools 파라미터. 표준 OpenAI 형식으로 도구를 정의하세요. 모델은 적절한 경우 도구 호출을 출력합니다. 이는 복잡한 에이전트 워크플로우를 가능하게 합니다. 모든 것은 동일한 API 계약 내에서 작동합니다.

속도 제한 및 동시성

각 API 키는 분당 300회 요청으로 제한됩니다. 최대 8개의 동시 요청을 처리할 수 있습니다. 이는 단일 클라이언트가 자원을 독점하는 것을 방지합니다. 이 제한은 계정별이 아닌 키별로 적용됩니다. 키를 적절히 관리하세요.

• 최대 요청 본문 크기는 8 MB입니다.
• 제한 초과 시 429 오류가 반환됩니다.

이러한 제약 사항을 기반으로 처리량을 계획하세요. 시스템은 안정적이고 대용량 사용을 위해 설계되었습니다. 버스트 트래픽은 동시 요청 윈도우 내에서 처리됩니다.

에러, 크레딧 및 컨텍스트 윈도우

401 오류는 키가 유효하지 않음을 의미합니다. 402 오류는 크레딧이 부족함을 나타냅니다. 계속하려면 암호화폐로 충전하십시오. 오류는 크레딧을 소모하지 않습니다. 이는 성공적인 응답에 대해서만 지불함을 보장합니다.

컨텍스트 윈도우는 100,000 토큰입니다. 여기에는 프롬프트와 completion이 모두 포함됩니다. 필요시 기본 max_tokens을 2,048로 설정하세요. 프롬프트는 학습에 사용되지 않습니다. 전 과정에서 프라이버시가 유지됩니다.

스트리밍

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)