Abliterált Qwen API gyors kezdés

Base URL és Hitelesítés

Csatlakoztassa meglévő SDK-konfigurációját azonnal a végpontunkhoz. Irányítsa az ügyfélt a dedikált bázis URL-re, és adja meg a dashboardunkon generált kulcsot. Szabványos fejléc-alapú hitelesítést használunk, így nincs szükség összetett beállításra.

A végpont: HTTPS://api.abliteratedqwen.com/v1. Hozzon létre fiókot Google-fiókkal vagy e-maillel, majd szerezze be a kulcsát a vezérlőpulton. Használja ezt a kulcsot az Authorization fejlécben Bearer tokenként minden kérésnél.

• Base URL: HTTPS://api.abliteratedqwen.com/v1
• Auth fejléc: Authorization: Bearer YOUR_API_KEY

Nem szükséges telefonszám a regisztrációhoz, és a kulcs azonnali megjelenik létrehozáskor.

Chat Completions végpont

Szövegüzenetek küldése és korlátlan válaszok fogadása a standard chat-kiegészítési végpont használatával. Ez a végpont kezeli az összes szöveggenerálási igényét a szokásos tartalomszűrők nélkül. Azonosan működik az OpenAI chat felülettel, de eltávolítja a visszautasítási réteget.

Küldjön egy POST kérést a /v1/chat/completions végpontra a modellnevével és a beszélgetési előzményekkel. A rendszer feldolgozza a bemenetet és visszaadja a generált szöveget. Bármelyik szabványos könyvtárat használhatja a JSON payload formázásához.

Íme egy alap kérés a kezdéshez:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

A válasz tartalmazza a teljes kiegészítés adatait. Közvetlenül integrálhatja az alkalmazásaiba.

Streamelési válaszok és tokenfelhasználás

Tokenről tokenre frissítések valós időben Server-Sent Events segítségével. Ez a funkció simább felhasználói élményt biztosít csevegésfelületeken. A felhasználási metrikák közvetlenül a stream utolsó darabjából követhetők nyomon.

Állítsa be a stream paramétert true értékre a kérésben. A szerver több JSON objektumot küld, mindegyik részleges deltát tartalmaz. Az utolsó darab tartalmazza a kérés teljes token-használatát.

Használja ezt a kódot a streamelés kezelésére Pythonban:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Ez a megközelítés jelentősen csökkenti a késleltetést. A felhasználók azt látják, ahogy a szöveg generálódik.

Függvényhívás és eszközök

Dinamikus eszközhasználat engedélyezése a kérésben definiált függvényekkel. A modell kiválaszthatja és végrehajthatja az eszközöket a kontextus alapján. Ez a képesség összetett munkafolyamatokat és adatlekérést tesz lehetővé.

Határozza meg az eszközöket a tools tömbben. Állítsa a tool_choice értéket auto-ra vagy egy konkrét függvényre. A modell eszközhívással fog válaszolni, ha megfelelő.

Implementálja az eszközlogikát az ügyfélkódban. Elemezze a tool_call_id-t, és hajtsa végre a függvényt. Ezután küldje vissza az eredményt a modellnek a végső válaszhoz.

Használja ezt a Node.js példát a függvényhívások beállításához:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Ez a funkció támogatja az automatikus és a manuális eszközválasztást.

JSON mód strukturált kimenethez

Kényszerítse a modellt a érvényes JSON kimenetre a megbízható feldolgozás érdekében. Ez a mód biztosítja, hogy a válasz pontosan illeszkedjen a sémájához. Ideális API-integrációkhoz és adatkinyerési feladatokhoz.

Állítsa be a response_format paramétert json_object értékre. A modell a kimenetét érvényes JSON szintaxisra korlátozza. Ez csökkenti a komplex regex elemzés szükségességét.

Határozza meg a várt struktúrát a rendszerüzenetben. A modell szigorúan betartja azt. Ez hasznos strukturált adatok vagy konfigurációs fájlok generálásához.

Paraméterek: Hőmérséklet, Top P és Stop

A generálás véletlenszerűségének és leállási feltételeinek szabályozása. Állítsa be a temperature paramétert a kreativitásért, a top_p paramétert a sokszínűségért, és a stop szekvenciákat a pontos levágáshoz. Ezek a paraméterek finomított kontrollt biztosítanak a kimenet felett.

Állítsa be a temperature értéket 0 és 2 közé. A magasabb értékek növelik a véletlenszerűséget. Használja a top_p értéket a tokenkészlet korlátozására. Határozzon meg stop szekvenciákat a generálás leállításához meghatározott jelzőknél.

Beállíthatod a presence_penalty és frequency_penalty paramétereket a token ismétlés befolyásolására. Ezek a beállítások segítenek finomhangolni a kimenet stílusát és konzisztenciáját.

Íme egy streamelési példa a paraméterek kipróbálásához:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Kísérletezzen ezekkel az értékekkel, hogy megtalálja a legjobb egyensúlyt az Ön esetére.