API-dokumentaatio

Todennus

API-avaimesi todentaa kaikki palvelimelle lähetettävät pyynnöt. Välitä se kentässä Authorization header Bearer-tokenina. Rekisteröidy Googlella tai sähköpostilla saadaksesi avaimesi välittömästi. Saat $0.50 kokeilukrediittiä, joka on voimassa 7 päivää. Pidä avain turvassa. Yksi aktiivinen avain per tili. Sen korvaaminen mitätöi vanhan avaimen välittömästi.

Ensimmäinen pyyntö

Lähetä POST-pyyntö chat completions -päätepisteeseen. Käytä mallin ID:tä "uncensored" omaan malliisi. Base URL on https://api.llamansfw.com/v1. Tämä toimii missä tahansa standardissa OpenAI SDK:ssa. Korvaa YOUR_API_KEY oikealla avaimellasi. Pyyntörunko sisältää viestit rooleineen ja sisältöineen.

Python-integraatio

Alusta OpenAI-asiakirjaimisto perus-URL-osoitteella. Aseta API-avain ympäristömuuttujaan tai konstruktoriin. Kutsu chat.completions.create() mallilla ja viesteillä. Tämä palauttaa täydennysobjektin. Käsittele vastaus poimimalla luotu teksti. Tämä lähestymistapa pitää koodisi yhteensopivaksi standardien OpenAI-kuvioitten kanssa. Säädä lämpötilaa luovien variaatioiden saamiseksi.

Node.js-integraatio

Tuo OpenAI-paketti. Määritä base URL osoittamaan päätepisteeseemme. Anna API-avaimesi. Luo lopetus halutuilla parametreilla. Asiakas käsittelee HTTP-pyynnön automaattisesti. Jäsentele vastaus saadaksesi avustajan viestin. Tämä menetelmä toimii saumattomasti olemassa olevissa Node.js-sovelluksissa. Voit asettaa streamauksen arvoksi false vakiovastauksia varten.

Streamausvastaukset

Ota streamaus käyttöön asettamalla stream arvoon true. API palauttaa tekstinpätkiä niiden luomisen aikana. Tämä vähentää havaittua viivettä pitkissä vastauksissa. Voit näyttää tekstiä käyttäjille reaaliajassa. Viimeinen pätkä sisältää token-käyttötilastot. Tämä toiminto toimii sekä Python- että Node-SDK:n kanssa. Se on ihanteellinen keskusteluliittymille, jotka vaativat välitöntä palautetta.

Rajoitukset ja virheet

Kontekstiluukku tukee yhteensä 100 000 tokenia. Voit lähettää jopa 16 000 tokenia pyyntöä kohden. Virheet palauttavat standardit HTTP-tilakoodit. 401 tarkoittaa virheellistä tai puuttuvaa avainta. 402 tarkoittaa, että esimaksusaldosi on loppunut. 429 tarkoittaa, että olet ylittänyt nopeusrajan, joka on 300 pyyntöä minuutissa. Esimaksusaldolla ei ole vanhenemispäivää. Virheet eivät kuluta tokenia. Hylkäykset ovat myös ilmaisia.

cURL

Copycurl https://api.llamansfw.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the max context window size?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamansfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamansfw.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)