Быстрый старт API Abliterated Qwen

Базовый URL и аутентификация

Мгновенно подключите конфигурацию вашего существующего SDK к нашему эндпоинту. Укажите клиенту выделенный базовый URL и предоставьте ключ, сгенерированный в нашей панели управления. Мы используем стандартную аутентификацию через заголовки, поэтому сложная настройка не требуется.

Конечная точка — HTTPS://api.abliteratedqwen.com/v1. Создайте аккаунт через Google или email, затем получите свой ключ из панели управления. Используйте этот ключ в заголовке Authorization как Bearer токен для каждого запроса.

• Базовый URL: HTTPS://api.abliteratedqwen.com/v1
• Заголовок Auth: Authorization: Bearer YOUR_API_KEY

Для регистрации не требуется номер телефона, и ключ появляется мгновенно после создания.

Эндпоинт Chat Completions

Отправляйте текстовые сообщения и получайте неограниченные ответы, используя стандартный эндпоинт chat-completions. Этот эндпоинт обрабатывает все ваши потребности в генерации текста без обычных фильтров контента. Он работает идентично интерфейсу чата OpenAI, но удаляет слой отказов.

Отправьте POST-запрос на /v1/chat/completions с именем модели и историей разговора. Система обрабатывает ввод и возвращает сгенерированный текст. Вы можете использовать любую стандартную библиотеку для формирования полезной нагрузки JSON.

Базовый запрос для начала работы:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

Ответ содержит полные данные завершения. Вы можете интегрировать их напрямую в свои приложения.

Потоковые ответы и использование токенов

Получайте обновления токен за токеном в реальном времени с помощью Server-Sent Events. Эта функция обеспечивает более плавный пользовательский опыт в интерфейсах чатов. Вы можете отслеживать метрики использования напрямую из последнего фрагмента потока.

Установите параметр stream в true в запросе. Сервер отправит несколько объектов JSON, каждый из которых содержит частичную дельту. Последний чанк включает общее использование токенов для запроса.

Используйте этот код для обработки потоковой передачи в Python:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Этот подход значительно снижает воспринимаемую задержку. Пользователи видят, как текст появляется по мере его генерации.

Function Calling и инструменты

Включите динамическое использование инструментов, определив функции в вашем запросе. Модель может выбирать и выполнять инструменты на основе контекста. Эта возможность позволяет создавать сложные рабочие процессы и получать данные.

Определите свои инструменты в массиве tools. Установите tool_choice в auto или укажите конкретное имя функции. Модель ответит вызовом инструмента, если это уместно.

Реализуйте логику инструмента в коде клиента. Разберите tool_call_id и выполните функцию. Затем отправьте результат обратно модели для получения окончательного ответа.

Используйте этот пример на Node.js для настройки вызова функций:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Эта функция поддерживает как автоматический, так и ручной выбор инструмента.

Режим JSON для структурированного вывода

Принудительно заставляйте модель выводить корректный JSON для надежной обработки. Этот режим гарантирует, что ответ точно соответствует вашей схеме. Он идеально подходит для интеграций API и задач извлечения данных.

Установите параметр response_format в значение json_object. Модель будет ограничивать вывод корректным синтаксисом JSON. Это снижает необходимость в сложном парсинге с помощью регулярных выражений.

Определите ожидаемую структуру в системном промпте. Модель будет строго ей следовать. Это полезно для генерации структурированных данных или конфигурационных файлов.

Параметры: Temperature, Top P и Stop

Управляйте случайностью и условиями остановки генерации. Настройте temperature для креативности, top_p для разнообразия и стоп-последовательности для точного усечения. Эти параметры дают вам детальный контроль над выводом.

Установите temperature в диапазоне от 0 до 2. Более высокие значения увеличивают случайность. Используйте top_p, чтобы ограничить пул токенов. Определите последовательности stop, чтобы остановить генерацию на определённых маркерах.

Вы также можете установить presence_penalty и frequency_penalty, чтобы повлиять на повторение токенов. Эти настройки помогают уточнить стиль и согласованность вывода.

Пример потоковой передачи для демонстрации работы этих параметров:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Экспериментируйте с этими значениями, чтобы найти лучшее сочетание для вашего варианта использования.