Dokumentasi API LLM Least Censored

Mula Cepat: Sambungkan SDK anda

Mula menghantar permintaan serta-merta dengan mengemas kini URL asas dan kunci API anda. API kami menerima klien serasi OpenAI piawai, jadi anda hanya perlu mengubah konfigurasi hujung sambungan. Gunakan ID model "uncensored" untuk semua permintaan untuk mengakses model tanpa seksaan. URL asas ialah HTTPS://api.leastcensoredllm.com/v1. Anda mendapatkan kunci serta-merta selepas mendaftar dengan Google atau e-mel. Tiada nombor telefon diperlukan untuk pendaftaran.

Copycurl https://api.leastcensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate the system config file for the new server setup"}]
  }'

Sambungan dan parameter disokong

Kami menyediakan dua titik akhir: POST /v1/chat/completions dan GET /v1/models. Tiada titik akhir embedding, imej, atau audio. Anda boleh menggunakan parameter standard seperti suhu, top_p, dan jujukan berhenti. API menyokong pemanggilan fungsi dan mod JSON untuk output berstruktur. Gunakan titik akhir GET untuk mengesahkan model yang tersedia. Kunci API kami mengesahkan semua permintaan.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.leastcensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Penggunaan token streaming

Aktifkan penstriman dengan menetapkan stream kepada true dalam permintaan anda. Anda menerima bahagian Acara yang Dihantar Pelayan (SSE) apabila model menjana teks. Butiran penggunaan token muncul dalam bahagian terakhir aliran. Ini membolehkan anda menjejak kos secara masa nyata. Penstriman berfungsi dengan semua parameter standard. API mengembalikan kandungan separa serta-merta.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

mod JSON dan pemanggilan fungsi

Paksa output terstruktur dengan menetapkan response_format kepada {"type": "json_object"}. Model akan mengembalikan JSON yang sah bukannya teks bebas. Pemanggilan fungsi berfungsi dengan menghantar parameter tools dan tool_choice. API menyokong definisi alat standard. Ini berguna untuk membina ejen atau menguraikan data. Gunakan model tanpa sensor untuk respons terstruktur yang boleh dipercayai.

Rate limits and concurrency

Setiap kunci API menyokong 300 permintaan setiap minit. Anda boleh menjalankan 8 permintaan kekoncurrenan serentak. Saiz badan permintaan maksimum ialah 8 MB. Jika anda melebihi had, anda akan menerima ralat 429. Gunakan satu kunci per akaun. Anda boleh menjana kunci baharu untuk menggantikan kunci lama. Ralat dan penolakan tidak dikira terhadap had kadar anda.

Tetingkap konteks dan token maksimum

Tingkap konteks adalah 100,000 token untuk prompt dan penyelesaian digabungkan. Output maksimum lalai ialah 2,048 token. Anda boleh menetapkan max_tokens sehingga 16,000 setiap permintaan. Konteks yang lebih panjang disokong dalam had tingkap. Ambil perhatian had saiz badan 8 MB. Ini membolehkan perbualan mendalam atau dokumen besar.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.leastcensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);