Introducere Rapidă API Abliterated Qwen

URL de bază și autentificare

Conectați-vă configurația SDK existentă la endpoint-ul nostru imediat. Indicați clientul către URL-ul de bază dedicat și furnizați cheia generată în panoul nostru. Utilizăm autentificare prin antet standard, deci nu este necesară o configurare complexă.

Endpoint-ul este HTTPS://api.abliteratedqwen.com/v1. Creează un cont prin Google sau email, apoi preia-ți cheia din dashboard. Folosește această cheie în header-ul Authorization ca token Bearer pentru fiecare cerere.

• URL de bază: HTTPS://api.abliteratedqwen.com/v1
• Header Auth: Authorization: Bearer YOUR_API_KEY

Nu este necesar un număr de telefon pentru înregistrare, iar cheia apare instantaneu la creare.

Endpoint Completări Chat

Trimite mesaje text și primește răspunsuri nerezistente folosind endpoint-ul standard de completări chat. Acest endpoint gestionează toate nevoile tale de generare text fără filtrele de conținut obișnuite. Funcționează identic cu interfața de chat OpenAI, dar elimină stratul de refuz.

Trimiteți o cerere POST către /v1/chat/completions cu numele modelului și istoricul conversației. Sistemul procesează inputul și returnează textul generat. Poți folosi orice bibliotecă standard pentru a formata payload-ul JSON.

Iată o solicitare de bază pentru a începe:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

Răspunsul conține detaliile complete ale completării. Poți integra acest lucru direct în aplicațiile tale.

Răspunsuri în streaming și consumul de tokeni

Primește actualizări token cu token în timp real prin Server-Sent Events. Această funcție permite o experiență de utilizare mai fluidă în interfețele de chat. Poți urmări metricile de utilizare direct din fragmentul final al fluxului.

Setează parametrul stream la true în solicitarea ta. Serverul va trimite mai multe obiecte JSON, fiecare conținând un delta parțial. Ultima bucată include utilizarea totală a tokenurilor pentru solicitare.

Folosește acest cod pentru a gestiona streaming-ul în Python:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Această abordare reduce semnificativ latența. Utilizatorii văd textul apărând pe măsură ce este generat.

Apelarea funcțiilor și instrumentele

Activează utilizarea dinamică a instrumentelor definind funcții în cererea ta. Modelul poate selecta și executa instrumente în funcție de context. Această capacitate permite fluxuri de lucru complexe și recuperarea de date.

Definește-ți instrumentele în array-ul tools. Setează tool_choice la auto sau la un nume de funcție specific. Modelul va răspunde cu un apel de instrument dacă este cazul.

Implementați logica uneltelor în codul client. Analizați tool_call_id și executați funcția. Apoi trimiteți rezultatul înapoi la model pentru un răspuns final.

Utilizați acest exemplu Node.js pentru a configura apelarea de funcții:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Această funcționalitate suportă atât selecția automată, cât și cea manuală a instrumentelor.

Mod JSON pentru Ieșire Structurată

Forțează modelul să genereze JSON valid pentru o analizare fiabilă. Acest mod asigură că răspunsul se potrivește exact cu schema ta. Este ideal pentru integrări API și sarcini de extragere a datelor.

Setează parametrul response_format la json_object. Modelul va restricționa ieșirea la sintaxă JSON validă. Acest lucru reduce nevoia de analiză regex complexă.

Definește structura așteptată în promptul de sistem. Modelul se va conforma acesteia strict. Acest lucru este util pentru generarea de date structurate sau fișiere de configurare.

Parametri: Temperatură, Top P și Stop

Controlează aleatorietatea și condițiile de oprire ale generării. Ajustează temperatura pentru creativitate, top_p pentru diversitate și secvențele de oprire pentru trunchierea precisă. Acești parametri îți oferă un control fin asupra ieșirii.

Setează temperature între 0 și 2. Valorile mai mari cresc aleatorietatea. Folosește top_p pentru a limita pool-ul de tokeni. Definește secvențe stop pentru a opri generarea la markeri specifici.

Puteți, de asemenea, să setați presence_penalty și frequency_penalty pentru a influența repetarea tokenurilor. Aceste setări ajută la rafinarea stilului și a consistenței ieșirii.

Iată un exemplu de streaming pentru a vedea acești parametri în acțiune:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Experimentați cu aceste valori pentru a găsi cel mai bun echilibru pentru cazul dvs. de utilizare.