Abliteret Qwen API-hurtigstart

Base URL og autentificering

Tilslut din eksisterende SDK-konfiguration til vores endpoint med det samme. Ret din klient mod den dedikerede base URL og angiv nøglen, der er genereret på vores dashboard. Vi bruger standard header-autentificering, så der er ikke brug for kompleks opsætning.

Endpointet er HTTPS://api.abliteratedqwen.com/v1. Opret en konto via Google eller e-mail, og hent derefter din nøgle fra dashboardet. Brug denne nøgle i Authorization-headeren som en Bearer-token for hver anmodning.

• Base URL: HTTPS://api.abliteratedqwen.com/v1
• Auth Header: Authorization: Bearer YOUR_API_KEY

Der kræves ikke telefonnummer for tilmelding, og nøglen vises øjeblikkeligt ved oprettelse.

Chat Completions Endpoint

Send tekstmeddelelser og modtag ubegrænsede svar ved hjælp af standard chat-completions endpoint. Dette endpoint håndterer alle dine tekstgenereringsbehov uden de sædvanlige content filters. Det fungerer identisk som OpenAI chat-grænsefladen, men fjerner afvisningslaget.

Send en POST-anmodning til /v1/chat/completions med dit modelnavn og samtalehistorik. Systemet behandler input og returnerer den genererede tekst. Du kan bruge ethvert standardbibliotek til at formatere JSON-payloaden.

Her er en grundlæggende anmodning for at komme i gang:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

Svaret indeholder de fulde kompletteringsdetaljer. Du kan integrere dette direkte i dine applikationer.

Streaming-svar og tokenforbrug

Modtag token-for-token-opdateringer i realtid via Server-Sent Events. Denne funktion giver en mere jævn brugeroplevelse i chatgrænseflader. Du kan spore forbrugsmetrikker direkte fra den sidste chunk af streamen.

Angiv stream-parameteren til true i din anmodning. Serveren sender flere JSON-objekter, hvoraf hver indeholder en delvis delta. Den sidste chunk inkluderer det samlede tokenforbrug for anmodningen.

Brug denne kode til at håndtere streaming i Python:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Denne tilgang reducerer den opfattede latens betydeligt. Brugere ser teksten dukke op, mens den genereres.

Function Calling og værktøjer

Aktiver dynamisk værktøjsbrug ved at definere funktioner i din request. Modellen kan vælge og eksekvere værktøjer baseret på konteksten. Denne funktion gør det muligt med komplekse workflows og datahentning.

Definér dine værktøjer i tools-arrayet. Indstil tool_choice til auto eller et specifikt funktionsnavn. Modellen vil svare med et værktøjskald, hvis det er passende.

Implementér værktøjslogikken i din klientkode. Parser tool_call_id og udfør funktionen. Send derefter resultatet tilbage til modellen for et endeligt svar.

Brug dette Node.js-eksempel til at opsætte function calling:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Denne funktion understøtter både automatisk og manuel tool-valg.

JSON-tilstand til struktureret output

Tving modellen til at udskrive gyldig JSON til pålidelig parsing. Denne tilstand sikrer, at svaret matcher dit schema præcist. Det er ideelt til API-integrationer og dataudtrækningsopgaver.

Angiv response_format-parameteren til json_object. Modellen vil begrænse sin output til gyldig JSON-syntax. Dette reducerer behovet for kompleks regex-parsing.

Definér din forventede struktur i systemprompten. Modellen vil overholde den strengt. Dette er nyttigt til generering af strukturerede data eller konfigurationsfiler.

Parametre: Temperatur, Top P og Stop

Styr tilfældigheden og stopbetingelserne for genereringen. Juster temperatur for kreativitet, top_p for mangfoldighed og stopsekvenser for præcis afkortning. Disse parametre giver dig finjusteret kontrol over outputtet.

Indstil temperature mellem 0 og 2. Højere værdier øger tilfældigheden. Brug top_p til at begrænse tokenpuljen. Definér stopsekvenser til at afslutte genereringen ved specifikke markører.

Du kan også indstille presence_penalty og frequency_penalty for at påvirke gentagelse af tokens. Disse indstillinger hjælper med at finjustere stil og konsistens i outputtet.

Her er et streaming-eksempel for at se disse parametre i aktion:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Eksperimentér med disse værdier for at finde den bedste balance til dit use case.