कम से कम सेंसर्ड LLM API दस्तावेज़ीकरण

क्विकस्टार्ट: अपना SDK कनेक्ट करें

अपने बेस URL और API key को अपडेट करके तुरंत अनुरोध भेजना शुरू करें। हमारा API मानक OpenAI-संगत क्लाइंटों को स्वीकार करता है, इसलिए आपको केवल एंडपॉइंट कॉन्फ़िगरेशन बदलने की आवश्यकता है। गैर-सेंसर किए गए मॉडल तक पहुंचने के लिए सभी अनुरोधों के लिए मॉडल ID "uncensored" का उपयोग करें। बेस URL है HTTPS://api.leastcensoredllm.com/v1। Google या ईमेल के साथ साइनअप करने के बाद आपको तुरंत एक key मिलती है। साइनअप के लिए फोन नंबर की आवश्यकता नहीं है।

Copycurl https://api.leastcensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate the system config file for the new server setup"}]
  }'

समर्थित एंडपॉइंट्स और पैरामीटर

हम दो एंडपॉइंट प्रदान करते हैं: POST /v1/chat/completions और GET /v1/models। न तो एम्बेडिंग, छवि, या ऑडियो एंडपॉइंट हैं। आप तापमान, top_p और स्टॉप सीक्वेंस जैसे मानक पैरामीटर का उपयोग कर सकते हैं। API संरचित आउटपुट के लिए फंक्शन कॉलिंग और JSON मोड का समर्थन करता है। उपलब्ध मॉडल की जांच करने के लिए GET एंडपॉइंट का उपयोग करें। हमारी API कुंजी सभी अनुरोधों को प्रमाणीकृत करती है।

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.leastcensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

स्ट्रीमिंग और टोकन उपयोग

अपने अनुरोध में stream को true सेट करके स्ट्रीमिंग सक्षम करें। आप मॉडल द्वारा पाठ उत्पन्न करते समय सर्वर-सेंट इवेंट्स (SSE) चंक प्राप्त करते हैं। टोकन उपयोग विवरण स्ट्रीम के अंतिम चंक में प्रकट होते हैं। यह आपको वास्तविक समय में लागत की ट्रैकिंग करने की अनुमति देता है। स्ट्रीमिंग सभी मानक पैरामीटर के साथ काम करता है। API आंशिक सामग्री को तुरंत लौटाता है।

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

JSON मोड और फंक्शन कॉलिंग

response_format को {"type": "json_object"} सेट करके संरचित आउटपुट फ़ोर्स करें। मॉडल मुक्त पाठ के बजाय मान्य JSON लौटाएगा। फंक्शन कॉलिंग टूल्स और tool_choice पैरामीटर पास करके काम करती है। API मानक टूल परिभाषाओं का समर्थन करता है। यह एजेंट्स बनाने या डेटा पार्स करने के लिए उपयोगी है। विश्वसनीय संरचित प्रतिक्रियाओं के लिए अनसेंसर्ड मॉडल का उपयोग करें।

रेट लिमिट्स और कंकरेंसी

प्रत्येक API कुंजी प्रति मिनट 300 अनुरोधों का समर्थन करती है। आप एक साथ 8 समानांतर अनुरोध चला सकते हैं। अधिकतम अनुरोध बॉडी का आकार 8 MB है। यदि आप सीमा को पार करते हैं, तो आपको 429 त्रुटि मिलती है। प्रति खाते एकल कुंजी का उपयोग करें। आप पुरानी कुंजी को बदलने के लिए एक नई कुंजी जनरेट कर सकते हैं। त्रुटियां और अस्वीकृतियां आपके रेट लिमिट के खिलाफ नहीं गिनती हैं।

संदर्भ विंडो और अधिकतम टोकन

प्रॉम्प्ट और कंप्लीशन दोनों के लिए कंटेक्स्ट विंडो 100,000 टोकन है। डिफ़ॉल्ट अधिकतम आउटपुट 2,048 टोकन है। आप प्रति अनुरोध 16,000 तक max_tokens सेट कर सकते हैं। विंडो सीमा के भीतर लंबे संदर्भ समर्थित हैं। 8 MB बॉडी साइड का ध्यान रखें। इससे गहरी बातचीत या बड़े दस्तावेज़ संभव हैं।

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.leastcensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);