Dokumentace API

Ověření

Váš klíč API autentizuje všechny požadavky na server. Předávejte jej v Authorization hlavička jako Bearer token. Registrovejte se přes Google nebo e-mail a klíč obdržíte okamžitě. Získáte $0,50 v zkušebním kreditu platném po dobu 7 dnů. Uchovávejte klíč v bezpečí. Jeden aktivní klíč na účet. Jeho nahrazením se starý klíč okamžitě zneplatní.

První požadavek

Odešlete požadavek POST na koncový bod chat completions. Použijte ID modelu "uncensored" pro náš konkrétní model. Základní URL je https://api.llamansfw.com/v1. To funguje s jakýmkoli standardním SDK OpenAI. Nahraďte YOUR_API_KEY vaším skutečným klíčem. Tělo požadku obsahuje zprávy s rolí a obsahem.

Integrace Pythonu

Inicializujte klienta OpenAI s naší základní URL. Nastavte API klíč v prostředí nebo v konstruktoru. Zavolejte chat.completions.create() pomocí modelu a zpráv. Toto vrací objekt dokončení. Zpracujte odpověď pro extrakci vygenerovaného textu. Tento přístup udržuje kompatibilitu vašeho kódu se standardními vzory OpenAI. Upravte teplotu pro kreativní varianty.

Integrace Node.js

Importujte balíček OpenAI. Nakonfigurujte základní URL na náš endpoint. Předajte svůj API klíč. Vytvořte dokončení s požadovanými parametry. Klient automaticky zpracuje HTTP požadavek. Parsovejte odpověď a získejte zprávu asistenta. Tato metoda funguje bezproblémově s existujícími aplikacemi Node.js. Můžete nastavit streamování na false pro standardní odpovědi.

Streamované odpovědi

Povolte streamování nastavením stream na true. API vrací textové chunky, jak jsou generovány. To snižuje vnímanou latenci u dlouhých odpovědí. Text můžete uživatelům zobrazovat v reálném čase. Poslední chunk obsahuje statistiky využití tokenů. Tato funkce funguje s Python i Node SDK. Je ideální pro chatová rozhraní vyžadující okamžitou zpětnou vazbu.

Limity a chyby

Okno kontextu podporuje celkem 100 000 tokenů. Na jeden požadavek můžete odeslat až 16 000 tokenů. Chyby vracejí standardní HTTP kódy. 401 označuje neplatný nebo chybějící klíč. 402 znamená, že váš předplacený kredit je vyčerpán. 429 znamená, že jste dosáhli limitu rychlosti 300 požadavků za minutu. Váš předplacený kredit nikdy nevyprší. Chyby nespotřebovávají tokeny. Odmítnutí jsou také zdarma.

cURL

Copycurl https://api.llamansfw.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the max context window size?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamansfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamansfw.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)