Hướng dẫn bắt đầu nhanh API Abliterated Qwen

Base URL và Xác thực

Kết nối ngay cấu hình SDK hiện có của bạn với điểm cuối của chúng tôi. Chỉ định client của bạn trỏ đến URL cơ sở chuyên dụng và cung cấp khóa được tạo trên bảng điều khiển của chúng tôi. Chúng tôi sử dụng xác thực header tiêu chuẩn, nên không cần thiết lập phức tạp.

Điểm cuối là HTTPS://api.abliteratedqwen.com/v1. Tạo tài khoản qua Google hoặc email, sau đó truy xuất khóa của bạn từ bảng điều khiển. Sử dụng khóa này trong tiêu đề Authorization dưới dạng mã thông báo Bearer cho mọi yêu cầu.

• Base URL: HTTPS://api.abliteratedqwen.com/v1
• Tiêu đề Auth: Authorization: Bearer YOUR_API_KEY

Không yêu cầu số điện thoại để đăng ký, và khóa xuất hiện ngay lập tức khi tạo.

Endpoint Hoàn thành Trò chuyện

Gửi các thông điệp văn bản và nhận các phản hồi không giới hạn bằng cách sử dụng điểm cuối hoàn tất trò chuyện tiêu chuẩn. Điểm cuối này xử lý tất cả nhu cầu tạo văn bản của bạn mà không có các bộ lọc nội dung thông thường. Nó hoạt động giống hệt giao diện trò chuyện OpenAI nhưng loại bỏ lớp từ chối.

Gửi yêu cầu POST đến /v1/chat/completions với tên mô hình và lịch sử hội thoại của bạn. Hệ thống xử lý đầu vào và trả về văn bản đã tạo. Bạn có thể sử dụng bất kỳ thư viện tiêu chuẩn nào để định dạng payload JSON.

Đây là một yêu cầu cơ bản để bắt đầu:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

Phản hồi chứa đầy đủ chi tiết hoàn tất. Bạn có thể tích hợp trực tiếp vào các ứng dụng của mình.

Phản hồi luồng và sử dụng token

Nhận cập nhật token theo token theo thời gian thực qua Server-Sent Events. Tính năng này cho phép trải nghiệm người dùng mượt mà hơn trong các giao diện trò chuyện. Bạn có thể theo dõi các chỉ số sử dụng trực tiếp từ chunk cuối cùng của luồng.

Đặt tham số stream thành true trong yêu cầu của bạn. Máy chủ sẽ gửi nhiều đối tượng JSON, mỗi đối tượng chứa một delta một phần. Chunk cuối cùng bao gồm tổng sử dụng token cho yêu cầu.

Sử dụng mã này để xử lý streaming trong Python:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Cách tiếp cận này giảm độ trễ cảm nhận đáng kể. Người dùng thấy văn bản xuất hiện khi nó được tạo.

Function Calling và các công cụ

Bật sử dụng công cụ động bằng cách định nghĩa các hàm trong yêu cầu của bạn. Mô hình có thể chọn và thực thi công cụ dựa trên ngữ cảnh. Khả năng này cho phép các quy trình làm việc phức tạp và truy xuất dữ liệu.

Xác định công cụ của bạn trong mảng tools. Đặt tool_choice thành auto hoặc tên hàm cụ thể. Mô hình sẽ phản hồi bằng lệnh gọi công cụ nếu phù hợp.

Triển khai logic công cụ trong mã máy khách của bạn. Phân tích tool_call_id và thực thi hàm. Sau đó gửi kết quả lại cho mô hình để có phản hồi cuối cùng.

Sử dụng ví dụ Node.js này để thiết lập gọi hàm:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tính năng này hỗ trợ cả việc lựa chọn công cụ tự động và thủ công.

Chế độ JSON cho đầu ra có cấu trúc

Buộc mô hình xuất ra JSON hợp lệ để phân tích cú pháp đáng tin cậy. Chế độ này đảm bảo phản hồi khớp chính xác với lược đồ của bạn. Nó lý tưởng cho các tích hợp API và các tác vụ trích xuất dữ liệu.

Đặt tham số response_format thành json_object. Mô hình sẽ hạn chế đầu ra của nó theo cú pháp JSON hợp lệ. Điều này giảm nhu cầu phân tích cú pháp regex phức tạp.

Xác định cấu trúc dự kiến của bạn trong lời nhắc hệ thống. Mô hình sẽ tuân thủ nó một cách nghiêm ngặt. Điều này hữu ích cho việc tạo dữ liệu có cấu trúc hoặc tệp cấu hình.

Tham số: Nhiệt độ, Top P và Dừng

Điều khiển tính ngẫu nhiên và điều kiện dừng của quá trình sinh. Điều chỉnh temperature cho sự sáng tạo, top_p cho sự đa dạng và các chuỗi dừng để cắt ngắn chính xác. Các tham số này mang lại cho bạn khả năng kiểm soát chi tiết đối với đầu ra.

Đặt temperature từ 0 đến 2. Các giá trị cao hơn tăng tính ngẫu nhiên. Sử dụng top_p để giới hạn bộ token. Xác định các chuỗi dừng để dừng quá trình tạo tại các dấu hiệu cụ thể.

Bạn cũng có thể đặt presence_penalty và frequency_penalty để ảnh hưởng đến sự lặp lại của token. Các cài đặt này giúp tinh chỉnh phong cách và tính nhất quán của đầu ra.

Đây là một ví dụ luồng dữ liệu để xem các tham số này hoạt động:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Thử nghiệm với các giá trị này để tìm sự cân bằng tốt nhất cho trường hợp sử dụng của bạn.