เริ่มต้นใช้งาน API ของ Abliterated Qwen อย่างรวดเร็ว

URL ฐานและการตรวจสอบสิทธิ์

เชื่อมต่อค่ากำหนดการตั้งค่า SDK ที่มีอยู่ของคุณกับ endpoint ของเราได้ทันที ชี้ client ของคุณไปยัง base URL เฉพาะ และระบุ key ที่สร้างจากแดชบอร์ดของเรา เราใช้การตรวจสอบสิทธิ์ด้วย header มาตรฐาน จึงไม่ต้องตั้งค่าที่ซับซ้อน

เอนด์พอยต์คือ HTTPS://api.abliteratedqwen.com/v1 สร้างบัญชีผ่าน Google หรืออีเมล จากนั้นดึงคีย์ของคุณจากแดชบอร์ด ใช้คีย์นี้ในหัวข้อความ Authorization เป็นโทเค็น Bearer สำหรับทุกคำขอ

• URL ฐาน: HTTPS://api.abliteratedqwen.com/v1
• Auth Header: Authorization: Bearer YOUR_API_KEY

ไม่ต้องใช้เบอร์โทรศัพท์สำหรับการสมัคร และคีย์ของคุณจะปรากฏทันทีหลังจากสร้าง

จุดจบ API Chat Completions

ส่งข้อความและรับคำตอบแบบไม่จำกัดโดยใช้ endpoint chat-completions มาตรฐาน endpoint นี้จัดการความต้องการสร้างข้อความทั้งหมดของคุณโดยไม่มีการกรองเนื้อหาตามปกติ มันทำงานเหมือนกับอินเทอร์เฟซ chat ของ OpenAI แต่ลบชั้นการปฏิเสธออก

ส่งคำขอ POST ไปยัง /v1/chat/completions พร้อมชื่อโมเดลและประวัติการสนทนาของคุณ ระบบประมวลผลอินพุตและส่งคืนข้อความที่สร้าง คุณสามารถใช้ไลบรารีมาตรฐานใดๆ เพื่อจัดรูปแบบ payload JSON

นี่คือคำขอพื้นฐานเพื่อเริ่มต้นใช้งาน:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

การตอบสนองประกอบด้วยรายละเอียดการเติมเต็มแบบเต็มรูปแบบ คุณสามารถผสานรวมสิ่งนี้ลงในแอปพลิเคชันของคุณได้โดยตรง

การตอบกลับแบบสตรีมมิ่งและการใช้งานโทเค็น

รับอัปเดตทีละโทเค็นแบบเรียลไทม์ผ่าน Server-Sent Events คุณสมบัตินี้ช่วยให้ประสบการณ์ผู้ใช้ในอินเทอร์เฟซแชทลื่นไหลยิ่งขึ้น คุณสามารถติดตามเมตริกการใช้งานได้โดยตรงจากชิ้นส่วนสุดท้ายของสตรีม

ตั้งค่าพารามิเตอร์ stream เป็น true ในการร้องขอของคุณ เซิร์ฟเวอร์จะส่งวัตถุ JSON หลายวัตถุ แต่ละวัตถุมี delta บางส่วน chunk สุดท้ายรวมถึงการใช้งานโทเค็นรวมสำหรับการร้องขอ

ใช้โค้ดนี้เพื่อจัดการการสตรีมใน Python:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

วิธีนี้ช่วยลดความล่าช้าที่ผู้ใช้รู้สึกอย่างมีนัยสำคัญ ผู้ใช้จะเห็นข้อความปรากฏขึ้นตามที่ถูกสร้างขึ้น

Function Calling และเครื่องมือ

เปิดใช้งานการใช้งานเครื่องมือแบบไดนามิกโดยกำหนดฟังก์ชันในคำขอของคุณ โมเดลสามารถเลือกและเรียกใช้เครื่องมือตามบริบท ความสามารถนี้ช่วยให้สามารถทำงานที่ซับซ้อนและการดึงข้อมูลได้

กำหนดเครื่องมือของคุณในอาร์เรย์ tools ตั้งค่า tool_choice เป็น auto หรือชื่อฟังก์ชันเฉพาะ โมเดลจะตอบสนองด้วยการเรียกใช้เครื่องมือหากเหมาะสม

นำลอจิกเครื่องมือไปใช้ในโค้ดไคลเอนต์ แยกวิเคราะห์ tool_call_id และดำเนินการฟังก์ชัน จากนั้นส่งผลลัพธ์กลับไปยังโมเดลสำหรับการตอบกลับสุดท้าย

ใช้ตัวอย่าง Node.js นี้เพื่อตั้งค่าการเรียกใช้ฟังก์ชัน:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

คุณสมบัตินี้รองรับทั้งการเลือกเครื่องมืออัตโนมัติและแบบแมนนวล

โหมด JSON สำหรับผลลัพธ์ที่มีโครงสร้าง

บังคับให้โมเดลส่งออก JSON ที่ถูกต้องเพื่อการแยกวิเคราะห์ที่เชื่อถือได้ โหมดนี้รับประกันว่าการตอบกลับจะตรงกับสคีมาของคุณอย่างแม่นยำ เหมาะสำหรับอินทิเกรชัน API และงานการดึงข้อมูล

ตั้งค่าพารามิเตอร์ response_format เป็น json_object โมเดลจะจำกัดผลลัพธ์ให้ใช้ไวยากรณ์ JSON ที่ถูกต้อง ซึ่งลดความจำเป็นในการใช้ regex ที่ซับซ้อน

กำหนดโครงสร้างที่คาดหวังของคุณใน system prompt โมเดลจะปฏิบัติตามอย่างเคร่งครัด สิ่งนี้มีประโยชน์สำหรับการสร้างข้อมูลที่มีโครงสร้างหรือไฟล์กำหนดค่า

พารามิเตอร์: อุณหภูมิ (Temperature), Top P และ Stop

ควบคุมความสุ่มและเงื่อนไขการหยุดของการสร้าง ปรับ temperature สำหรับความคิดสร้างสรรค์ top_p สำหรับความหลากหลาย และ stop sequences สำหรับการตัดข้อความที่แม่นยำ พารามิเตอร์เหล่านี้ให้คุณควบคุมผลลัพธ์ได้อย่างละเอียด

ตั้งค่า temperature ระหว่าง 0 ถึง 2 ค่าที่สูงขึ้นเพิ่มความสุ่ม ใช้ top_p เพื่อจำกัดพูลโทเค็น กำหนดลำดับ stop เพื่อหยุดการสร้างที่เครื่องหมายเฉพาะ

คุณสามารถตั้งค่า presence_penalty และ frequency_penalty เพื่อมีอิทธิพลต่อการทำซ้ำของโทเค็น การตั้งค่าเหล่านี้ช่วยปรับแต่งสไตล์และความสม่ำเสมอของผลลัพธ์

นี่คือตัวอย่างการสตรีมเพื่อดูพารามิเตอร์เหล่านี้ในทางปฏิบัติ:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ทดลองใช้ค่าเหล่านี้เพื่อหาจุดสมดุลที่ดีที่สุดสำหรับกรณีการใช้งานของคุณ