Dokumentacja API

Uwierzytelnianie

Twój klucz API uwierzytelnia wszystkie żądania do serwera. Przekaż go w Authorization nagłówek jako token Bearer. Zarejestruj się przez Google lub e-mail, aby natychmiast uzyskać klucz. Otrzymujesz $0.50 kredytu próbnej ważnego przez 7 dni. Trzymaj klucz w sekrecie. Jeden aktywny klucz na konto. Jego zastąpienie natychmiast unieważnia stary.

Pierwsze żądanie

Wyślij żądanie POST do endpointu chat completions. Użyj identyfikatora modelu "uncensored" dla naszego konkretnego modelu. Adres URL bazowy to https://api.llamansfw.com/v1. Działa z dowolnym standardowym SDK OpenAI. Zastąp YOUR_API_KEY z Twoim rzeczywistym kluczem. Ciało żądania zawiera wiadomości z rolami i treścią.

Integracja Python

Zainicjuj klienta OpenAI z naszym podstawowym adresem URL. Ustaw klucz API w środowisku lub konstruktorze. Wywołaj chat.completions.create() z modelem i wiadomościami. Zwraca to obiekt completion. Obsłuż odpowiedź, aby wyodrębnić wygenerowany tekst. To podejście zachowuje zgodność Twojego kodu ze standardowymi wzorcami OpenAI. Dostosuj temperaturę dla kreatywnych wariacji.

Integracja Node.js

Zaimportuj pakiet OpenAI. Skonfiguruj adres bazowy do naszego endpointu. Przekaż swój klucz API. Utwórz uzupełnienie z żądanymi parametrami. Klient automatycznie obsługuje żądanie HTTP. Sparsuj odpowiedź, aby uzyskać wiadomość asystenta. Ta metoda działa bezproblemowo z istniejącymi aplikacjami Node.js. Możesz ustawić strumieniowanie na false dla standardowych odpowiedzi.

Odpowiedzi strumieniowe

Włącz strumieniowanie, ustawiając stream ustaw na true. API zwraca fragmenty tekstu w miarę ich generowania. Zmniejsza to postrzeganą latencję przy długich odpowiedziach. Możesz wyświetlać tekst użytkownikom w czasie rzeczywistym. Ostatni fragment zawiera statystyki użycia tokenów. Funkcja ta działa zarówno z SDK w Pythonie, jak i Node. Jest idealna dla interfejsów czatu wymagających natychmiastowej informacji zwrotnej.

Limity i błędy

Okno kontekstowe obsługuje łącznie 100 000 tokenów na żądanie. Błędy zwracają standardowe kody HTTP. 401 oznacza nieprawidłowy lub brakujący klucz. 402 oznacza wyczerpanie kredytu prepaid. 429 oznacza przekroczenie limitu 300 żądań na minutę. Twój kredyt prepaid nigdy nie wygasa. Błędy nie zużywają tokenów. Odrzucenia są również darmowe.

cURL

Copycurl https://api.llamansfw.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the max context window size?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamansfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamansfw.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Strumieniowanie

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)