תיעוד API של LLM פחות צנזורה

התחלה מהירה: חיבור ה-SDK שלך

התחל לשלוח בקשות מיד על ידי עדכון כתובת הבסיס ומפתח ה-API. ה-API שלנו מקבל לקוחות סטנדרטיים התואמים ל-OpenAI, כך שאתה צריך רק לשנות את תצורת נקודת הקצה. השתמש במזהה המודל "uncensored" לכל הבקשות כדי לגשת למודל ללא צנזורה. כתובת הבסיס היא HTTPS://api.leastcensoredllm.com/v1. אתה מקבל מפתח מיד לאחר ההרשמה עם גוגל או מייל. אין צורך במספר טלפון להרשמה.

Copycurl https://api.leastcensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate the system config file for the new server setup"}]
  }'

נקודות קצה ופרמטרים נתמכים

אנו מספקים שתי נקודות קצה: POST /v1/chat/completions ו-GET /v1/models. אין קצות קצה של הטמעות, תמונות או אודיו. ניתן להשתמש בפרמטרים סטנדרטיים כמו temperature, top_p ורצפי עצירה. ה-API תומך בשימוש בפונקציות ובמצב JSON לפלטות מבניות. השתמש בנקודת הקצה GET כדי לאמת מודלים זמינים. מפתח ה-API שלנו מאמת את כל הבקשות.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.leastcensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

סטרימינג ושימוש באסימונים

אפשרו סטרימינג על ידי הגדרת stream ל-true בבקשה שלכם. אתה מקבל מקטעי אירועים מוכווני שרת (SSE) כשהמודל מייצר טקסט. פרטי שימוש בטוקנים מופיעים במקטע הסופי של הזרם. זה מאפשר לך לעקוב אחר עלויות בזמן אמת. סטרימינג עובד עם כל הפרמטרים הסטנדרטיים. ה-API מחזיר תוכן חלקי מיד.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

מצב JSON וקריאת פונקציות

כף פלט מבני על ידי הגדרת response_format ל-{"type": "json_object"}. המודל יחזיר JSON תקף במקום טקסט חופשי. קריאת כלים עובדת על ידי העברת פרמטרים tools ו-tool_choice. ה-API תומך בהגדרות כלים סטנדרטיות. זה שימושי לבניית סוכנים או פיענוח נתונים. השתמש במודל ללא צנזורה לתגובות מבניות אמינות.

גבולות קצב ונלוות

כל מפתח API תומך ב-300 בקשות לדקה. ניתן להריץ 8 בקשות מקבילות בו זמנית. גודל גוף הבקשה המקסימלי הוא 8 MB. אם תחריגו את המגבלה, תקבלו שגיאת 429. השתמשו במפתח אחד לכל חשבון. ניתן ליצור מפתח חדש כדי להחליף את הישן. שגיאות וסירובים לא נספרים נגד מגבלת הקצב שלכם.

חלון הקשר ומקסימום טוקנים

חלון ההקשר הוא 100,000 טוקנים לקלט ולפלט יחד. הפלט המקסימלי המוגדר כברירת מחדל הוא 2,048 טוקנים. ניתן להגדיר את max_tokens עד 16,000 לכל בקשה. הקשרים ארוכים יותר נתמכים בתוך מגבלת החלון. היו מודעים לגודל הגוף של 8 MB. זה מאפשר שיחות עמוקות או מסמכים גדולים.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.leastcensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);