התחלה מהירה ל-API של Abliterated Qwen

כתובת URL בסיסית ואימות

חבר את תצורת ה-SDK הקיימת שלך לנקודת הקצה שלנו מיד. הפנה את הלקוח שלך לכתובת ה-URL הבסיסית הייעודית וספק את המפתח שנוצר בלוח הבקרה שלנו. אנו משתמשים באימות כותרות סטנדרטי, כך שלא נדרש הגדרה מורכבת.

נקודת הקצה היא HTTPS://api.abliteratedqwen.com/v1. צרו חשבון דרך Google או אימייל, ולאחר מכן קבלו את המפתח שלכם מהדשבורד. השתמשו במפתח זה בראש ה-Authorization כטוקן Bearer לכל בקשה.

• כתובת URL בסיסית: HTTPS://api.abliteratedqwen.com/v1
• כותרת Auth: Authorization: Bearer YOUR_API_KEY

אין צורך במספר טלפון להרשמה, והמפתח מופיע מיד עם יצירתו.

נקודת קצה להשלמות צ'אט

שלח הודעות טקסט וקבל תגובות ללא הגבלה באמצעות נקודת הקצה הסטנדרטית להשלמת צ'אט. נקודת קצה זו מטפלת בכל צרכי יצירת הטקסט שלך ללא מסנני התוכן הרגילים. זה עובד בדיוק כמו ממשק הצ'אט של OpenAI אך מסיר את שכבת הסירוב.

שלח בקשת POST ל-/v1/chat/completions עם שם המודל והיסטוריית השיחה שלך. המעבד מעבד את הקלט ומחזיר את הטקסט שנוצר. ניתן להשתמש בכל ספרייה סטנדרטית כדי לעצב את פלט ה-JSON.

להלן בקשה בסיסית להתחלה:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

התגובה מכילה את פרטי ההשלמה המלאים. ניתן לשלב זאת ישירות ביישומים שלך.

תגובות בסטרימינג וצריכת טוקנים

קבלו עדכונים אסימון אחר אסימון בזמן אמת באמצעות אירועים שנשלחו מהשרת. תכונה זו מאפשרת חווית משתמש חלקה יותר בממשקי צ'אט. ניתן לעקוב אחר מדדי שימוש ישירות מהנתח הסופי של הזרם.

הגדירו את פרמטר stream ל- true בבקשה שלכם. השרת ישלף מספר אובייקטי JSON, כל אחד מהם מכיל delta חלקי. הנתח האחרון כולל את סך שימוש הטוקנים לבקשה.

השתמשו בקוד זה כדי לטפל בזרימה (streaming) ב-Python:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

גישה זו מפחיתה משמעותית את תחושת העיכוב. המשתמשים רואים את הטקסט מופיע כפי שהוא נוצר.

פקודות פונקציה וכלים

אפשרו שימוש דינמי בכלים על ידי הגדרת פונקציות בבקשה שלך. המודל יכול לבחור ולבצע כלים בהתאם להקשר. יכולת זו מאפשרת זרימות עבודה מורכבות ואיסוף נתונים.

הגדירו את הכלים שלכם במערך tools. הגדירו את tool_choice ל-auto או לשם פונקציה ספציפי. המודל יגיב עם קריאת כלי אם מתאים.

הטמעת לוגיקת הכלי בקוד הלקוח שלך. נתח את tool_call_id והפעל את הפונקציה. לאחר מכן שלח את התוצאה בחזרה למודל לתגובה סופית.

השתמשו בדוגמת Node.js זו כדי להגדיר קריאת פונקציות:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

תכונה זו תומכת בבחירת כלים אוטומטית וידנית.

מצב JSON לפלט מבני

כפה על המודל להפיק JSON תקין לפיענוח אמין. מצב זה מבטיח שהתגובה תתאים למסגרת שלך בדיוק. זה אידיאלי לשילובי API ומשימות חילוץ נתונים.

הגדירו את פרמטר response_format ל- json_object. המודל יגביל את הפלט שלו לתחביר JSON תקף. זה מפחית את הצורך בניתוח רגולרי מורכב.

הגדירו את המבנה הצפוי שלכם בהודעת המערכת. המודל יציית לו בקפידה. זה שימושי ליצירת נתונים מבניים או קבצי תצורה.

פרמטרים: טמפרטורה, Top P ו-Stop

שלוץ באקראיות ותנאי העצירה של ההתהליך. התאם את ה-temperature ליצירתיות, את ה-top_p למגוון, ורצפי עצירה לחיתוך מדויק. פרמטרים אלו נותנים לך שליטה עדינה על הפלט.

הגדר temperature בין 0 ל-2. ערכים גבוהים יותר מגבירים אקראיות. השתמש ב-top_p כדי להגביל את בסיס האסימונים. הגדר רצפי עצירה כדי לעצור יצירה בסימנים ספציפיים.

ניתן גם להגדיר presence_penalty ו-frequency_penalty כדי להשפיע על חזרתיות טוקנים. הגדרות אלו עוזרות לשפר את הסגנון והעקביות של הפלט.

להלן דוגמה לזרימה (streaming) כדי לראות את הפרמטרים בפעולה:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

נסו ערכים שונים כדי למצוא את האיזון הטוב ביותר למקרה השימוש שלכם.