Panduan Cepat API Qwen Abliterated

URL Dasar dan Autentikasi

Hubungkan konfigurasi SDK Anda yang sudah ada ke endpoint kami segera. Arahkan klien Anda ke URL dasar khusus dan berikan kunci yang dihasilkan di dasbor kami. Kami menggunakan autentikasi header standar, sehingga tidak diperlukan pengaturan rumit.

Endpoint adalah HTTPS://api.abliteratedqwen.com/v1. Buat akun melalui Google atau email, lalu ambil kunci Anda dari dasbor. Gunakan kunci ini di header Authorization sebagai token Bearer untuk setiap permintaan.

• URL Dasar: HTTPS://api.abliteratedqwen.com/v1
• Header Auth: Authorization: Bearer YOUR_API_KEY

Tidak diperlukan nomor telepon untuk pendaftaran, dan kunci muncul secara instan saat dibuat.

Endpoint Chat Completions

Kirim pesan teks dan dapatkan balasan tanpa batasan menggunakan endpoint penyelesaian obrolan standar. Endpoint ini menangani semua kebutuhan generasi teks Anda tanpa filter konten biasa. Endpoint ini bekerja secara identik dengan antarmuka obrolan OpenAI tetapi menghilangkan lapisan penolakan.

Kirim permintaan POST ke /v1/chat/completions dengan nama model dan riwayat percakapan Anda. Sistem memproses input dan mengembalikan teks yang dihasilkan. Anda dapat menggunakan pustaka standar apa pun untuk memformat payload JSON.

Berikut permintaan dasar untuk memulai:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

Respons berisi detail kelengkapan lengkap. Anda dapat mengintegrasikannya langsung ke dalam aplikasi Anda.

Respons Streaming dan Penggunaan Token

Terima pembaruan token per token secara real-time melalui Server-Sent Events. Fitur ini memungkinkan pengalaman pengguna yang lebih mulus di antarmuka obrolan. Anda dapat melacak metrik penggunaan langsung dari potongan terakhir aliran.

Atur parameter stream menjadi true dalam permintaan Anda. Server akan mengirim beberapa objek JSON, masing-masing berisi delta parsial. Chunk terakhir mencakup total penggunaan token untuk permintaan tersebut.

Gunakan kode ini untuk menangani streaming di Python:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Pendekatan ini mengurangi latensi yang dirasakan secara signifikan. Pengguna melihat teks muncul saat teks tersebut dihasilkan.

Pemanggilan Fungsi dan Alat

Aktifkan penggunaan alat dinamis dengan mendefinisikan fungsi dalam permintaan Anda. Model dapat memilih dan mengeksekusi alat berdasarkan konteks. Kemampuan ini memungkinkan alur kerja kompleks dan pengambilan data.

Tentukan alat Anda dalam array tools. Tetapkan tool_choice ke auto atau nama fungsi tertentu. Model akan merespons dengan panggilan alat jika sesuai.

Implementasikan logika alat dalam kode klien Anda. Parse tool_call_id dan eksekusi fungsi. Kemudian kirimkan hasilnya kembali ke model untuk respons akhir.

Gunakan contoh Node.js ini untuk menyiapkan pemanggilan fungsi:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Fitur ini mendukung pemilihan alat otomatis dan manual.

Mode JSON untuk Output Terstruktur

Paksa model untuk menghasilkan JSON valid untuk parsing yang andal. Mode ini memastikan respons sesuai dengan skema Anda secara tepat. Mode ini ideal untuk integrasi API dan tugas ekstraksi data.

Atur parameter response_format menjadi json_object. Model akan membatasi outputnya agar sesuai dengan sintaks JSON yang valid. Ini mengurangi kebutuhan akan parsing regex yang kompleks.

Tentukan struktur yang diharapkan Anda dalam prompt sistem. Model akan mematuhinya secara ketat. Ini berguna untuk menghasilkan data terstruktur atau file konfigurasi.

Parameter: Suhu, Top P, dan Stop

Kontrol keacakan dan kondisi penghentian generasi. Sesuaikan temperature untuk kreativitas, top_p untuk keragaman, dan urutan berhenti untuk pemotongan yang presisi. Parameter-parameter ini memberikan kontrol halus atas output.

Atur temperature antara 0 dan 2. Nilai yang lebih tinggi meningkatkan keacakan. Gunakan top_p untuk membatasi pool token. Tentukan urutan stop untuk menghentikan generasi pada penanda tertentu.

Anda juga dapat mengatur presence_penalty dan frequency_penalty untuk memengaruhi pengulangan token. Pengaturan ini membantu menyempurnakan gaya dan konsistensi output.

Berikut contoh streaming untuk melihat parameter-parameter ini bekerja:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Bereksperimenlah dengan nilai-nilai ini untuk menemukan keseimbangan terbaik untuk kasus penggunaan Anda.