Pengenalan Pantas API Qwen Abliterasi

URL Asas dan Pengesahan

Sambungkan konfigurasi SDK sedia anda ke hujung sambungan kami dengan segera. Arahkan klien anda ke URL asas yang didedikasikan dan masukkan kunci yang dijana di papan pemuka kami. Kami menggunakan pengesahan header piawai, jadi tiada pemasangan kompleks diperlukan.

Titik akhir ialah HTTPS://api.abliteratedqwen.com/v1. Cipta akaun melalui Google atau e-mel, kemudian dapatkan kunci anda dari papan pemuka. Gunakan kunci ini dalam header Authorization sebagai token Bearer untuk setiap permintaan.

• URL Asas: HTTPS://api.abliteratedqwen.com/v1
• Header Auth: Authorization: Bearer YOUR_API_KEY

Nombor telefon tidak diperlukan untuk pendaftaran, dan kunci muncul serta-merta selepas dibuat.

Hujung Sambungan Penyelesaian Sembang

Hantar mesej teks dan terima balasan tanpa had menggunakan endpoint penyelesaian chat-standard. Endpoint ini mengendalikan semua keperluan penjanaan teks anda tanpa penapis kandungan biasa. Ia berfungsi secara identik dengan antara muka chat OpenAI tetapi menghapuskan lapisan penolakan.

Hantar permintaan POST ke /v1/chat/completions dengan nama model dan sejarah perbualan anda. Sistem memproses input dan mengembalikan teks yang dijana. Anda boleh menggunakan mana-mana pustaka standard untuk memformat payload JSON.

Berikut adalah permintaan asas untuk memulakan penggunaan:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

Respons mengandungi butiran penyelesaian penuh. Anda boleh mengintegrasikannya terus ke dalam aplikasi anda.

Penggunaan Token Respons Streaming

Terima kemas kini token demi token secara masa nyata melalui Acara Dihantar Pelayan. Ciri ini membolehkan pengalaman pengguna yang lebih lancar dalam antara muka sembang. Anda boleh menjejak metrik penggunaan terus dari pecahan akhir penstrim.

Tetapkan parameter stream kepada true dalam permintaan anda. Pelayan akan menghantar beberapa objek JSON, setiap satunya mengandungi delta separa. Chunk terakhir termasuk jumlah penggunaan token untuk permintaan tersebut.

Gunakan kod ini untuk mengendalikan aliran data dalam Python:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Pendekatan ini mengurangkan latensi dengan ketara. Pengguna melihat teks muncul sejurus ia dijana.

Panggilan Fungsi dan Alat

Aktifkan penggunaan alat dinamik dengan menentukan fungsi dalam permintaan anda. Model boleh memilih dan melaksanakan alat berdasarkan konteks. Keupayaan ini membolehkan aliran kerja kompleks dan pengambilan data.

Takrifkan alat anda dalam array tools. Tetapkan tool_choice kepada auto atau nama fungsi tertentu. Model akan memberi respons dengan panggilan alat jika sesuai.

Laksanakan logik alat dalam kod klien anda. Huraikan tool_call_id dan jalankan fungsi. Kemudian hantar hasil kembali ke model untuk respons akhir.

Gunakan contoh Node.js ini untuk menetapkan pemanggilan fungsi:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ciri ini menyokong pemilihan alat automatik dan manual.

Mod JSON untuk Output Terstruktur

Paksa model untuk mengeluarkan JSON sah untuk penguraian yang boleh dipercayai. Mod ini memastikan respons sepadan dengan skema anda dengan tepat. Ia sesuai untuk integrasi API dan tugas ekstraksi data.

Tetapkan parameter response_format kepada json_object. Model akan mengehadkan outputnya kepada sintaks JSON yang sah. Ini mengurangkan keperluan untuk penguraian regex yang kompleks.

Takrifkan struktur yang dijangka dalam prompt sistem. Model akan mematuhi ia dengan ketat. Ini berguna untuk menjana data terstruktur atau fail konfigurasi.

Parameter: Suhu, Top P, dan Henti

Kawal rawak dan keadaan hentian penjanaan. Laraskan suhu untuk kreativiti, top_p untuk kepelbagaian, dan jujukan hentian untuk pemotongan tepat. Parameter ini memberikan kawalan halus ke atas output.

Tetapkan suhu antara 0 dan 2. Nilai yang lebih tinggi meningkatkan rawak. Gunakan top_p untuk hadkan kumpulan token. Takrifkan jujukan stop untuk menghentikan penjanaan pada penanda tertentu.

Anda juga boleh menetapkan presence_penalty dan frequency_penalty untuk mempengaruhi pengulangan token. Tetapan ini membantu memperhalusi gaya dan konsistensi output.

Berikut adalah contoh penstriman untuk melihat parameter ini dalam tindakan:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Eksperimen dengan nilai ini untuk mencari keseimbangan terbaik untuk kes penggunaan anda.