Προαπαιτούμενα: Ρύθμιση SDK
Εγκαταστήστε την επίσημη βιβλιοθήκη πελάτη για τη γλώσσα σας πριν ρυθμίσετε τη σύνδεση. Η βιβλιοθήκη διαχειρίζεται αυτόματα τη σειριοποίηση JSON, τις επαναλήψεις και τα πρωτόκολλα streaming.
Για Python, εγκαταστήστε το πακέτο μέσω pip. Για Node.js, χρησιμοποιήστε το npm ή yarn για να προσθέσετε την εξάρτηση στο project σας.
Βεβαιωθείτε ότι χρησιμοποιείτε μια πρόσφατη έκδοση του SDK για να υποστηρίζονται όλα τα χαρακτηριστικά όπως η κλήση συναρτήσεων και η λειτουργία JSON.
Διαμόρφωση: Βασική URL & Κλειδί
Κατευθύνετε τον πελάτη SDK σας στο συγκεκριμένο βασικό URL μας και παρέχετε το κλειδί API που αποκτήσατε κατά την εγγραφή.
Η βασική διεύθυνση URL είναι HTTPS://api.claudellmapi.com/v1. Αυτό διασφαλίζει ότι όλα τα αιτήματα πηγαίνουν στους servers του μοντέλου μας χωρίς λογοκρισία αντί του προεπιλεγμένου παρόχου.
Ορίστε το κλειδί API ως μεταβλητή περιβάλλοντος ή περάστε το απευθείας στον κατασκευαστή του πελάτη. Δεν απαιτούνται πρόσθετες κεφαλίδες.
Αποστολή της πρώτης σας αίτησης
Στείλτε μια απλή αίτηση ολοκλήρωσης συνομιλίας για να επαληθεύσετε τη σύνδεση και την ποιότητα απάντησης. Χρησιμοποιήστε το model id 'uncensored' για πρόσβαση στο μη περιορισμένο μοντέλο.
Η δομή της αίτησης ανταποκρίνεται στο τυπικό format OpenAI, διευκολύνοντας την αντικατάσταση υφιστάμενων ενσωματώσεων.
Αναμένεται απάντηση κειμένου που περιέχει την απάντηση του μοντέλου στην πρόωσή σας.
Διαχείριση Streaming Αποκρίσεων
Ενεργοποιήστε τη ροή για λήψη tokens καθώς παράγονται, μειώνοντας την αντιλαμβανόμενη καθυστέρηση για μακρές εξόδους.
Ορίστε την παράμετρο stream σε true στην αίτησή σας. Το SDK θα αποδώσει chunks κειμένου καθώς γίνονται διαθέσιμα.
Αυτό είναι ιδανικό για διεπαφές συνομιλίας όπου οι χρήστες αναμένουν άμεση ανατροφοδότηση ενώ το μοντέλο σκέφτεται ακόμα.
Υλοποίηση κλήσης συναρτήσεων
Ορίστε εργαλεία στο αίτημά σας για να επιτρέψετε στο μοντέλο να επιστρέψει δομημένα δεδομένα αντί για απλό κείμενο.
Προσδιορίστε το σχήμα της συνάρτησης και ορίστε το tool_choice σε 'auto' ή ένα συγκεκριμένο όνομα συνάρτησης.
Το μοντέλο θα απαντήσει με ένα αντικείμενο κλήσης συνάρτησης που μπορείτε να εκτελέσετε στον κώδικά σας. Αυτό λειτουργεί ομαλά με το uncensored μοντέλο μας.
Χειρισμός Σφαλμάτων & Όρια
Διαχειριστείτε τα συνηθισμένα σφάλματα HTTP με επιδεξιότητα για να διατηρήσετε μια ομαλή εμπειρία χρήστη. Ο κωδικός 401 υποδηλώνει μη έγκυρο ή λείπον κλειδί API. Ο κωδικός 402 σημαίνει ότι το προκαταβλημένο πιστωτικό σας υπόλοιπο εξαντλήθηκε. Ο κωδικός 429 σηματοδοτεί ότι έχετε ξεπεράσει το όριο ρυθμού των 300 αιτημάτων ανά λεπτό.
Το παράθυρο πλαισίου (context window) είναι 100.000 tokens για prompt και completion συνολικά. Αιτήματα που υπερβαίνουν το όριο σώματος 8 MB θα αποτύχουν επίσης.
cURL
curl https://api.claudellmapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "What are the current rate limits for large context windows"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.claudellmapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.claudellmapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Ροή
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)