Pré-requisitos: Configuração do SDK
Instale a biblioteca de cliente oficial para sua linguagem antes de configurar a conexão. A biblioteca cuida da serialização JSON, retries e protocolos de streaming automaticamente.
Para Python, instale o pacote via pip. Para Node.js, use npm ou yarn para adicionar a dependência ao seu projeto.
Certifique-se de usar uma versão recente do SDK para suportar todos os recursos, como function calling e modo JSON.
Configuração: URL Base & Chave
Aponte o cliente SDK para o nosso URL base específico e forneça a chave da API que você obteve no cadastro.
A URL base é HTTPS://api.claudellmapi.com/v1. Isso garante que todas as solicitações sejam enviadas para nossos servidores de modelo sem censura, em vez do provedor padrão.
Defina a chave da API como uma variável de ambiente ou passe-a diretamente para o construtor do cliente. Não são necessários cabeçalhos adicionais.
Enviando sua primeira solicitação
Envie uma solicitação simples de conclusão de chat para verificar a conectividade e a qualidade da resposta. Use o ID do modelo 'uncensored' para acessar o modelo sem restrições.
A estrutura da solicitação espelha o formato padrão da OpenAI, facilitando a substituição de integrações existentes.
Esperar uma resposta de texto contendo a resposta do modelo ao seu prompt.
Lidando com Respostas de Streaming
Ative o streaming para receber tokens conforme são gerados, reduzindo a latência percebida para saídas longas.
Defina o parâmetro stream como true na sua solicitação. O SDK gerará chunks de texto conforme se tornam disponíveis.
Isso é ideal para interfaces de chat onde os usuários esperam feedback imediato enquanto o modelo ainda está pensando.
Implementando Chamada de Função
Defina ferramentas na solicitação para permitir que o modelo retorne dados estruturados em vez de texto simples.
Especifique o esquema da função e defina tool_choice como 'auto' ou um nome de função específico.
O modelo responderá com um objeto de chamada de função que você pode executar no seu código. Isso funciona perfeitamente com nosso modelo sem censura.
Tratamento de Erros & Limites
Lide com erros HTTP comuns de forma elegante para manter uma experiência de usuário fluida. Um status 401 indica uma chave de API inválida ou ausente. Um status 402 significa que seu crédito pré-pago está esgotado. Um status 429 sinaliza que você excedeu o limite de taxa de 300 solicitações por minuto.
Sua janela de contexto é de 100.000 tokens para prompt e conclusão combinados. Solicitações que excedam o limite de corpo de 8 MB também falharão.
cURL
curl https://api.claudellmapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What are the current rate limits for large context windows"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.claudellmapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudellmapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streaming
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)