Dokumentacja API LLM Least Censored

Szybki start: Podłącz swoje SDK

Zacznij natychmiast wysyłać żądania, aktualizując swój adres URL bazowy i klucz API. Nasze API akceptuje standardowych klientów kompatybilnych z OpenAI, więc musisz zmienić tylko konfigurację endpointu. Użyj identyfikatora modelu "uncensored" do wszystkich żądań, aby uzyskać dostęp do modelu bez cenzury. Adres URL bazowy to HTTPS://api.leastcensoredllm.com/v1. Otrzymujesz klucz natychmiast po rejestracji przez Google lub e-mail. Nie jest wymagany numer telefonu do rejestracji.

Copycurl https://api.leastcensoredllm.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate the system config file for the new server setup"}]
  }'

Obsługiwane punkty końcowe i parametry

Oferujemy dwa punkty końcowe: POST /v1/chat/completions oraz GET /v1/models. Nie ma punktów końcowych do embeddingów, obrazów ani audio. Możesz używać standardowych parametrów, takich jak temperatura, top_p i sekwencje stop. API obsługuje wywoływanie funkcji i tryb JSON dla danych strukturalnych. Użyj punktu końcowego GET, aby sprawdzić dostępne modele. Nasz klucz API uwierzytelnia wszystkie żądania.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.leastcensoredllm.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Strumieniowanie i zużycie tokenów

Włącz strumieniowanie, ustawiając stream na true w żądaniu. Otrzymujesz fragmenty zdarzeń wysyłanych serwerowo (SSE), gdy model generuje tekst. Szczegóły dotyczące zużycia tokenów pojawiają się w ostatnim fragmencie strumienia. Pozwala to śledzić koszty w czasie rzeczywistym. Strumieniowanie działa ze wszystkimi standardowymi parametrami. API zwraca zawartość częściową natychmiast.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

tryb JSON i wywoływanie funkcji

Wymuś dane strukturalne, ustawiając response_format na {"type": "json_object"}. Model zwróci poprawny JSON zamiast tekstu swobodnego. Wywoływanie narzędzi działa poprzez przekazanie parametrów tools i tool_choice. API obsługuje standardowe definicje narzędzi. Jest to przydatne przy budowaniu agentów lub parsowaniu danych. Użyj modelu bez cenzury dla niezawodnych odpowiedzi strukturalnych.

Ograniczenia częstotliwości i współbieżność

Każdy klucz API obsługuje 300 żądań na minutę. Możesz uruchomić 8 jednoczesnych żądań jednocześnie. Maksymalny rozmiar ciała żądania wynosi 8 MB. Jeśli przekroczysz limit, otrzymasz błąd 429. Używaj jednego klucza na konto. Możesz wygenerować nowy klucz, aby zastąpić stary. Błędy i odrzucenia nie wliczają się do limitu szybkości.

Okno kontekstowe i maksymalna liczba tokenów

Okno kontekstowe wynosi 100 000 tokenów łącznie dla promptu i uzupełnienia. Domyślna maksymalna liczba tokenów wyjściowych wynosi 2 048. Możesz ustawić max_tokens do 16 000 na żądanie. Dłuższe konteksty są obsługiwane w ramach limitu okna. Bądź świadomy limitu rozmiaru ciała 8 MB. Pozwala to na głębokie rozmowy lub duże dokumenty.

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.leastcensoredllm.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);