Документация API

Аутентификация

Ваш API-ключ аутентифицирует все запросы к серверу. Передавайте его в Authorization заголовок как Bearer-токен. Зарегистрируйтесь через Google или email, чтобы мгновенно получить ключ. Вы получаете $0.50 пробного кредита, действительного в течение 7 дней. Храните ключ в безопасности. Один активный ключ на аккаунт. Замена делает старый ключ недействительным немедленно.

Первый запрос

Отправьте POST-запрос на эндпоинт chat completions. Используйте идентификатор модели "uncensored" для нашей конкретной модели. Базовый URL — https://api.llamansfw.com/v1. Это работает с любым стандартным OpenAI SDK. Замените YOUR_API_KEY с вашим фактическим ключом. Тело запроса включает сообщения с ролями и содержимым.

Интеграция Python

Инициализируйте клиент OpenAI с нашим базовым URL. Установите API-ключ в среде или конструкторе. Вызовите chat.completions.create() с моделью и сообщениями. Это возвращает объект завершения. Обработайте ответ, чтобы извлечь сгенерированный текст. Этот подход сохраняет совместимость вашего кода со стандартными шаблонами OpenAI. Настройте temperature для творческих вариаций.

Интеграция Node.js

Импортируйте пакет OpenAI. Настройте базовый URL на нашу конечную точку. Передайте ваш API-ключ. Создайте завершение с желаемыми параметрами. Клиент автоматически обрабатывает HTTP-запрос. Разберите ответ, чтобы получить сообщение ассистента. Этот метод бесшовно работает с существующими приложениями Node.js. Вы можете установить для потоковой передачи значение false для стандартных ответов.

Потоковые ответы

Включите потоковую передачу, установив stream true. API возвращает текст частями по мере его генерации. Это снижает воспринимаемую задержку для длинных ответов. Вы можете отображать текст пользователям в реальном времени. Последний чанк содержит статистику использования токенов. Эта функция работает как с Python, так и с Node SDK. Она идеально подходит для интерфейсов чатов, требующих мгновенной обратной связи.

Лимиты и ошибки

Окно контекста поддерживает до 100,000 токенов суммарно. Вы можете отправить до 16,000 токенов за запрос. Ошибки возвращают стандартные коды HTTP. 401 указывает на недействительный или отсутствующий ключ. 402 означает, что ваш предоплаченный кредит исчерпан. 429 означает, что вы достигли лимита в 300 запросов в минуту. Ваш предоплаченный кредит не истекает. Ошибки не расходуют токены. Отказы также бесплатны.

cURL

Copycurl https://api.llamansfw.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "What is the max context window size?"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.llamansfw.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.llamansfw.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)