Γρήγορη Εκκίνηση API Abliterated Qwen

Βασικό URL και Αυθεντικοποίηση

Συνδέστε άμεσα τη διαμόρφωση του υπάρχοντος SDK σας στο endpoint μας. Κατευθύνετε τον πελάτη σας στο αποκλειστικό base URL και παρέχετε το κλειδί που δημιουργήθηκε στο dashboard μας. Χρησιμοποιούμε τυπική έγκριση μέσω header, οπότε δεν απαιτείται σύνθετη ρύθμιση.

Το σημείο τερματισμού είναι HTTPS://api.abliteratedqwen.com/v1. Δημιουργήστε έναν λογαριασμό μέσω Google ή email, στη συνέχεια ανακτήστε το κλειδί σας από το dashboard. Χρησιμοποιήστε αυτό το κλειδί στην κεφαλίδα Authorization ως Bearer token για κάθε αίτηση.

• Base URL: HTTPS://api.abliteratedqwen.com/v1
• Κεφαλίδα Auth: Authorization: Bearer YOUR_API_KEY

Δεν απαιτείται αριθμός τηλεφώνου για εγγραφή, και το key εμφανίζεται άμεσα μετά τη δημιουργία του.

Τερματικό Συμπληρώματος Συζήτησης

Στείλτε μηνύματα κειμένου και λάβτε μη περιορισμένες απαντήσεις χρησιμοποιώντας το τυπικό endpoint chat-completions. Αυτό το endpoint διαχειρίζεται όλες τις ανάγκες δημιουργίας κειμένου σας χωρίς τα συνηθισμένα φίλτρα περιεχομένου. Λειτουργεί ταυτόσημα με το chat interface της OpenAI αλλά αφαιρεί το στρώμα απόρριψης.

Στείλτε μια αίτηση POST στο /v1/chat/completions με το όνομα του μοντέλου και την ιστορία συνομιλίας σας. Το σύστημα επεξεργάζεται την είσοδο και επιστρέφει το παραγόμενο κείμενο. Μπορείτε να χρησιμοποιήσετε οποιαδήποτε τυπική βιβλιοθήκη για να διαμορφώσετε το payload JSON.

Ακολουθεί ένα βασικό request για να ξεκινήσετε:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

Η απάντηση περιέχει τις πλήρεις λεπτομέρειες ολοκλήρωσης. Μπορείτε να την ενσωματώσετε απευθείας στις εφαρμογές σας.

Streaming Αποκρίσεις και Χρήση Token

Λάβετε ενημερώσεις token-by-token σε πραγματικό χρόνο μέσω Server-Sent Events. Αυτή η δυνατότητα επιτρέπει πιο ομαλή εμπειρία χρήστη σε διεπαφές συνομιλίας. Μπορείτε να παρακολουθήσετε μετρικές χρήσης απευθείας από το τελευταίο chunk της ροής.

Ορίστε την παράμετρο stream σε true στην αίτησή σας. Ο διακομιστής θα στείλει πολλαπλά αντικείμενα JSON, το καθένα περιέχοντας ένα μερικό delta. Το τελευταίο chunk περιλαμβάνει τη συνολική χρήση tokens για την αίτηση.

Χρησιμοποιήστε αυτόν τον κώδικα για χειρισμό streaming στο Python:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Αυτή η προσέγγιση μειώνει σημαντικά την αντιλαμβανόμενη καθυστέρηση. Οι χρήστες βλέπουν το κείμενο να εμφανίζεται καθώς παράγεται.

Function Calling και Εργαλεία

Ενεργοποίηση δυναμικής χρήσης εργαλείων ορίζοντας συναρτήσεις στην αίτησή σας. Το μοντέλο μπορεί να επιλέξει και να εκτελέσει εργαλεία βάσει του контекста. Αυτή η δυνατότητα επιτρέπει πολύπλοκες ροές εργασίας και ανάκτηση δεδομένων.

Ορίστε τα εργαλεία σας στην ομάδα tools. Ορίστε το tool_choice σε auto ή σε ένα συγκεκριμένο όνομα συνάρτησης. Το μοντέλο θα απαντήσει με κλήση εργαλείου αν είναι κατάλληλο.

Εφαρμόστε τη λογική εργαλείου στον κώδικα του πελάτη. Αναλύστε το tool_call_id και εκτελέστε τη συνάρτηση. Στη συνέχεια, στείλτε το αποτέλεσμα πίσω στο μοντέλο για μια τελική απόκριση.

Χρησιμοποιήστε αυτό το παράδειγμα Node.js για να ρυθμίσετε την κλήση συναρτήσεων:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Αυτή η λειτουργία υποστηρίζει τόσο αυτόματη όσο και χειροκίνητη επιλογή εργαλείων.

Λειτουργία JSON για Δομημένη Έξοδο

Εξαναγκάστε το μοντέλο να επιστρέψει έγκυρο JSON για αξιόπιστη ανάλυση. Η λειτουργία αυτή διασφαλίζει ότι η απάντηση ταιριάζει ακριβώς με το schema σας. Είναι ιδανική για ενσωματώσεις API και εργασίες εξαγωγής δεδομένων.

Ορίστε την παράμετρο response_format σε json_object. Το μοντέλο θα περιορίσει την έξοδό του σε έγκυρη σύνταξη JSON. Αυτό μειώνει την ανάγκη για σύνθετη επεξεργασία με regex.

Ορίστε την αναμενόμενη δομή σας στο system prompt. Το μοντέλο θα την ακολουθήσει αυστηρά. Αυτό είναι χρήσιμο για τη δημιουργία δομημένων δεδομένων ή αρχείων διαμόρφωσης.

Παράμετροι: Temperature, Top P, και Stop

Ελέγξτε την τυχαιότητα και τις συνθήκες διακοπής της παραγωγής. Προσαρμόστε το temperature για δημιουργικότητα, το top_p για ποικιλία και τα stop sequences για ακριβή περικοπή. Αυτές οι παράμετροι σας δίνουν λεπτομερή έλεγχο στην έξοδο.

Ορίστε temperature μεταξύ 0 και 2. Οι υψηλότερες τιμές αυξάνουν την τυχαιότητα. Χρησιμοποιήστε top_p για να περιορίσετε το pool tokens. Ορίστε ακολουθίες stop για τερματισμό της δημιουργίας σε συγκεκριμένους δείκτες.

Μπορείτε επίσης να ορίσετε presence_penalty και frequency_penalty για να επηρεάσετε την επανάληψη tokens. Αυτές οι ρυθμίσεις βοηθούν στην εξομοίωση του στυλ και της συνέπειας της εξόδου.

Ακολουθεί ένα παράδειγμα streaming για να δείτε αυτές τις παραμέτρους σε δράση:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Πειραματιστείτε με αυτές τις τιμές για να βρείτε την καλύτερη ισορροπία για την περίπτωσή σας.