API Dokumentation

Autentificering

Din API-nøgle autentificerer alle anmodninger til serveren. Send den i Authorization header som en Bearer-token. Tilmeld dig via Google eller e-mail for at få din nøgle øjeblikkeligt. Du får $0.50 i prøve-kredit, der er gyldig i 7 dage. Opbevar din nøgle sikkert. Én aktiv nøgle pr. konto. Erstatning af den inddrager den gamle øjeblikkeligt.

Første anmodning

Send en POST-anmodning til chat-completions-endepunktet. Brug model-ID'et "uncensored" til vores specifikke model. Base-URL'en er https://api.llamansfw.com/v1. Dette virker med ethvert standard OpenAI SDK. Erstat YOUR_API_KEY med din faktiske nøgle. Request-body'en indeholder beskeder med roller og indhold.

Python-integration

Initialiser OpenAI-klienten med vores base-URL. Indstil API-nøglen i miljøet eller konstruktøren. Kald chat.completions.create() med modellen og beskederne. Dette returnerer et completion-objekt. Håndter svaret for at udtrække den genererede tekst. Denne tilgang holder din kode kompatibel med standard OpenAI-mønstre. Juster temperaturen for kreative variationer.

Node.js-integration

Importér OpenAI-pakken. Konfigurer base URL til vores endepunkt. Overfør din API-nøgle. Opret en completion med de ønskede parametre. Klienten håndterer HTTP-anmodningen automatisk. Parser svaret for at få assistentens besked. Denne metode fungerer sømløst med eksisterende Node.js-applikationer. Du kan indstille streaming til false for standard-svar.

Streaming-svar

Aktivér streaming ved at indstille stream til true. API'et returnerer tekststykker, mens de genereres. Dette reducerer den opfattede latens for lange svar. Du kan vise tekst i realtid til brugere. Det sidste stykke indeholder tokenforbrugsstatistikker. Denne funktion fungerer med både Python- og Node-SDK'er. Den er ideel til chatgrænseflader, der kræver øjeblikkelig feedback.

Limits and Errors

Kontekstvinduet understøtter i alt 100.000 tokens. Du kan sende op til 16.000 tokens pr. anmodning. Fejl returnerer standard HTTP-koder. En 401 indikerer en ugyldig eller manglende nøgle. En 402 betyder, at din forudbetalte kredit er opbrugt. En 429 betyder, at du har ramt rate limit på 300 anmodninger i minuttet. Din forudbetalte kredit udløber aldrig. Fejl forbruger ikke tokens. Afslag er også gratis.

cURL

Copycurl https://api.llamansfw.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the max context window size?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamansfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamansfw.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streaming

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)