Abliterated Qwen API 快速入門

基礎 URL 與驗證

立即將您現有的 SDK 設定連接至我們的端點。將您的客戶端指向專屬的基礎 URL，並輸入在我們的儀表板上產生的金鑰。我們使用標準的標頭驗證，因此無需複雜的設定。

端點為 HTTPS://api.abliteratedqwen.com/v1。透過 Google 或電子郵件建立帳戶，然後從儀表板檢索你的金鑰。在每個請求的 Authorization 標頭中，將此金鑰用作 Bearer token。

• 基礎 URL：HTTPS://api.abliteratedqwen.com/v1
• Auth Header: Authorization: Bearer YOUR_API_KEY

註冊不需要電話號碼，金鑰在建立後立即顯示。

聊天完成端點

使用標準聊天完成端點發送文字訊息並接收無限制的回覆。此端點處理所有文字生成需求，且無一般內容過濾器。其運作方式與 OpenAI 聊天介面相同，但移除了拒絕層。

向 /v1/chat/completions 發送 POST 請求，附上您的模型名稱和對話歷史。系統處理輸入並回傳生成的文本。您可以使用任何標準函式庫來格式化 JSON 載入內容。

這是一個入門的基本請求：

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

回應包含完整的完成細節。您可以直接將其整合至應用程式中。

串流回應與 Token 用量

透過伺服器發送事件即時接收逐 token 更新。此功能可讓聊天介面的使用者體驗更流暢。您可以從串流的最後一個區塊直接追蹤用量指標。

在您的請求中將 stream 參數設為 true。伺服器將發送多個 JSON 物件，每個物件包含一個部分 delta。最後一個區塊包含請求的總 token 用量。

使用此程式碼在 Python 中處理串流：

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

此方法可顯著降低感知延遲。使用者會看到文字隨生成而出現。

函式呼叫與工具

透過在請求中定義函式來啟用動態工具使用。模型可以根據情境選擇並執行工具。此功能允許複雜的工作流程與資料檢索。

在 tools 陣列中定義您的工具。將 tool_choice 設為 auto 或特定的函數名稱。如果合適，模型將回應工具呼叫。

在您的客戶端程式碼中實作工具邏輯。解析 tool_call_id 並執行函數。然後將結果發送回模型以獲得最終回應。

使用此 Node.js 範例來設定函式呼叫：

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

此功能支援自動與手動工具選擇。

用於結構化輸出的 JSON 模式

強制模型輸出有效的 JSON 以便可靠解析。此模式確保回應完全符合您的結構描述。它非常適合 API 整合與資料提取任務。

將 response_format 參數設為 json_object。模型會將其輸出限制為有效的 JSON 語法。這減少了對複雜正則表達式解析的需求。

在系統提示詞中定義你預期的結構。模型將嚴格遵循該結構。這對於生成結構化資料或設定檔非常有用。

參數：Temperature、Top P 和 Stop

控制生成的隨機性與停止條件。調整 temperature 以控制創造力，top_p 以控制多樣性，stop sequences 以進行精確截斷。這些參數讓您可以對輸出進行細粒度的控制。

設定 temperature 介於 0 和 2 之間。較高的值會增加隨機性。使用 top_p 限制 token 池。定義 stop sequences 以在特定標記處停止生成。

您也可以設定 presence_penalty 和 frequency_penalty 以影響代幣重複。這些設定有助於精煉輸出的風格和一致性。

這是一個讓這些參數發揮作用的串流範例：

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

實驗這些值以為您的使用案例找到最佳平衡點。