Avvio rapido API Abliterated Qwen

URL Base e Autenticazione

Collega immediatamente la configurazione del tuo SDK esistente al nostro endpoint. Indirizza il client all'URL di base dedicato e fornisci la chiave generata sul nostro dashboard. Utilizziamo l'autenticazione tramite header standard, quindi non è necessaria una configurazione complessa.

L'endpoint è HTTPS://api.abliteratedqwen.com/v1. Crea un account tramite Google o email, quindi recupera la tua chiave dal dashboard. Utilizza questa chiave nell'intestazione Authorization come token Bearer per ogni richiesta.

• URL Base: HTTPS://api.abliteratedqwen.com/v1
• Intestazione Auth: Authorization: Bearer YOUR_API_KEY

Non è richiesto alcun numero di telefono per la registrazione e la chiave viene visualizzata istantaneamente alla creazione.

Endpoint Chat Completions

Invia messaggi di testo e ricevi risposte senza restrizioni utilizzando l'endpoint standard chat-completions. Questo endpoint gestisce tutte le tue esigenze di generazione di testo senza i soliti filtri del contenuto. Funziona in modo identico all'interfaccia chat di OpenAI ma rimuove il livello di rifiuto.

Invia una richiesta POST a /v1/chat/completions con il nome del modello e la cronologia delle conversazioni. Il sistema elabora l'input e restituisce il testo generato. Puoi usare qualsiasi libreria standard per formattare il payload JSON.

Ecco una richiesta base per iniziare:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

La risposta contiene tutti i dettagli del completamento. Puoi integrarla direttamente nelle tue applicazioni.

Risposte in streaming e utilizzo dei token

Ricevi aggiornamenti token per token in tempo reale tramite Server-Sent Events. Questa funzione consente un'esperienza utente più fluida nelle interfacce chat. Puoi tracciare le metriche di utilizzo direttamente dall'ultimo chunk dello stream.

Imposta il parametro stream su true nella richiesta. Il server invierà più oggetti JSON, ciascuno contenente un delta parziale. L'ultimo chunk include l'utilizzo totale dei token per la richiesta.

Usa questo codice per gestire lo streaming in Python:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Questo approccio riduce significativamente la latenza percepita. Gli utenti vedono il testo apparire man mano che viene generato.

Function Calling e strumenti

Abilita l'uso dinamico degli strumenti definendo le funzioni nella tua richiesta. Il modello può selezionare ed eseguire gli strumenti in base al contesto. Questa funzionalità consente flussi di lavoro complessi e il recupero di dati.

Definisci i tuoi strumenti nell'array tools. Imposta tool_choice su auto o su un nome di funzione specifico. Il modello risponderà con una chiamata agli strumenti se appropriato.

Implementa la logica degli strumenti nel codice del tuo client. Analizza il tool_call_id ed esegui la funzione. Poi invia il risultato al modello per una risposta finale.

Usa questo esempio Node.js per configurare il function calling:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Questa funzionalità supporta sia la selezione automatica che manuale degli strumenti.

Modalità JSON per output strutturati

Forza il modello a restituire JSON validi per un'analisi affidabile. Questa modalità garantisce che la risposta corrisponda esattamente al tuo schema. È ideale per integrazioni API e attività di estrazione dati.

Imposta il parametro response_format su json_object. Il modello vincolerà il suo output alla sintassi JSON valida. Questo riduce la necessità di un'analisi complessa con regex.

Definisci la struttura attesa nel prompt di sistema. Il modello vi si attingerà rigorosamente. Questo è utile per generare dati strutturati o file di configurazione.

Parametri: Temperatura, Top P e Stop

Controlla la casualità e le condizioni di stop della generazione. Regola la temperature per la creatività, la top_p per la diversità e le sequenze di stop per una troncatura precisa. Questi parametri ti offrono un controllo fine sull'output.

Imposta temperature tra 0 e 2. Valori più alti aumentano la casualità. Usa top_p per limitare il pool di token. Definisci sequenze stop per interrompere la generazione in corrispondenza di marcatori specifici.

Puoi anche impostare presence_penalty e frequency_penalty per influenzare la ripetizione dei token. Queste impostazioni aiutano a raffinare lo stile e la coerenza dell'output.

Ecco un esempio di streaming per vedere questi parametri in azione:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Sperimenta con questi valori per trovare il miglior equilibrio per il tuo caso d'uso.