Tài liệu API

Xác thực

Khóa API của bạn xác thực mọi yêu cầu đến máy chủ. Truyền nó trong Authorization header dưới dạng mã Bearer. Đăng ký bằng Google hoặc email để nhận khóa ngay lập tức. Bạn nhận được $0.50 tín dụng dùng thử có hiệu lực trong 7 ngày. Hãy giữ khóa của bạn an toàn. Một khóa hoạt động mỗi tài khoản. Việc thay thế nó sẽ làm vô hiệu hóa khóa cũ ngay lập tức.

Yêu cầu đầu tiên

Gửi yêu cầu POST đến điểm cuối chat completions. Sử dụng ID mô hình "uncensored" cho mô hình cụ thể của chúng tôi. URL cơ sở là https://api.llamansfw.com/v1. Điều này hoạt động với bất kỳ SDK OpenAI tiêu chuẩn nào. Thay thế YOUR_API_KEY với khóa thực tế của bạn. Thân yêu cầu bao gồm các thông điệp với vai trò và nội dung.

Tích hợp Python

Khởi tạo client OpenAI với URL cơ sở của chúng tôi. Đặt khóa API trong môi trường hoặc hàm tạo. Gọi chat.completions.create() với mô hình và thông báo. Điều này trả về một đối tượng hoàn thành. Xử lý phản hồi để trích xuất văn bản được tạo. Cách tiếp cận này giữ cho mã của bạn tương thích với các mẫu OpenAI tiêu chuẩn. Điều chỉnh nhiệt độ cho các biến thể sáng tạo.

Tích hợp Node.js

Nhập gói OpenAI. Cấu hình URL cơ sở trỏ đến điểm cuối của chúng tôi. Truyền khóa API của bạn. Tạo một yêu cầu hoàn thành với các tham số mong muốn. Máy khách tự động xử lý yêu cầu HTTP. Phân tích phản hồi để lấy tin nhắn của trợ lý. Phương pháp này hoạt động liền mạch với các ứng dụng Node.js hiện có. Bạn có thể đặt streaming thành false cho các phản hồi tiêu chuẩn.

Phản hồi luồng

Bật phát trực tiếp bằng cách đặt stream thành true. API trả về các đoạn văn bản khi chúng được tạo ra. Điều này làm giảm độ trễ cảm nhận đối với các phản hồi dài. Bạn có thể hiển thị văn bản theo thời gian thực cho người dùng. Đoạn cuối cùng chứa thống kê sử dụng token. Tính năng này hoạt động với cả SDK Python và Node. Nó lý tưởng cho các giao diện trò chuyện yêu cầu phản hồi ngay lập tức.

Giới hạn và Lỗi

Cửa sổ ngữ cảnh hỗ trợ tối đa 100,000 token cho tổng cộng. Bạn có thể gửi tối đa 16,000 token mỗi yêu cầu. Lỗi trả về các mã HTTP tiêu chuẩn. 401 cho biết key không hợp lệ hoặc thiếu. 402 có nghĩa là credit trả trước của bạn đã hết. 429 cho biết bạn đã đạt giới hạn tốc độ 300 yêu cầu mỗi phút. Credit trả trước của bạn không bao giờ hết hạn. Lỗi không tiêu tốn token. Các lần từ chối cũng miễn phí.

cURL

Copycurl https://api.llamansfw.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the max context window size?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamansfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamansfw.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)