Előfeltételek: SDK beállítás
Telepítse a hivatalos klienskönyvtárat a választott nyelvhez a kapcsolat konfigurálása előtt. A könyvtár automatikusan kezeli a JSON szerializálást, az újrapróbálkozást és a streaming protokollokat.
Pythonhoz telepítsd a csomagot pip segítségével. Node.js-hez használd az npm vagy yarn eszközt a függőség hozzáadásához a projektedhez.
Győződjön meg róla, hogy a legújabb SDK-verziót használja az összes funkció, például a függvényhívás és a JSON mód támogatásához.
Konfiguráció: Alap URL & Kulcs
Irányítsd SDK-kliensedet a specifikus bázis URL-re, és add meg a regisztráció során megszerzett API-kulcsot.
Az alap URL: HTTPS://api.claudellmapi.com/v1. Ez biztosítja, hogy minden kérés az ellenőrizetlen modell szervereinkre irányuljon az alapértelmezett szolgáltató helyett.
Állítsa be az API kulcsot környezeti változóként, vagy adja át közvetlenül az ügyfél konstruktorának. Nem szükségesek további fejlécek.
Az első kélem küldése
Küldjön egy egyszerű chat completion kérést a kapcsolat és a válaszminőség ellenőrzéséhez. Használja az 'uncensored' modellszámot a korlátlan modell eléréséhez.
A kérés szerkezete tükrözi a szabványos OpenAI formátumot, így könnyen cserélhet ki meglévő integrációkat.
Várható egy szövegválasz, amely tartalmazza a modell válaszát a promptjára.
Streamelt válaszok kezelése
Streamelés engedélyezése a tokenek generálása közbeni fogadásához, csökkentve a felfogott késleltetést a hosszú kimeneteknél.
Állítsa be a stream paramétert true értékre a kérésben. Az SDK darabokat ad vissza, amint azok elérhetőkvé válnak.
Ez ideális azokhoz a chat felületekhez, ahol a felhasználók azonnali visszajelzést várnak, miközben a modell még mindig gondolkodik.
Function calling implementálása
Határozza meg az eszközöket a kérésben, hogy a modell strukturált adatokat adjon vissza a sima szöveg helyett.
Adja meg a függvény sémáját, és állítsa a tool_choice értéket 'auto' vagy egy specifikus függvénynévre.
A modell függvényhívás objektummal válaszol, amelyet végrehajthat a kódjában. Ez zökkenőmentesen működik a cenzúrázatlan modellünkkel.
Hibakezelés & Korlátok
Kezelje gracefully a gyakori HTTP-hibákat a zökkenőmentes felhasználói élmény érdekében. A 401 státusz érvénytelen vagy hiányzó API-kulcsot jelez. A 402 státusz azt jelenti, hogy az előre fizetett hitelét kimerítette. A 429 státusz azt jelzi, hogy túllépte a percenkénti 300 kérésre vonatkozó sebességkorlátot.
A kontextusablakod 100 000 tokenben maximális a prompt és a generálás együttvéve. A 8 MB-os törzshatárt meghaladó kérések sikertelenek lesznek.
cURL
curl https://api.claudellmapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What are the current rate limits for large context windows"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.claudellmapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudellmapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Streamelés
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)