Démarrage rapide API Qwen Abliterated
Commencez avec l'API sans censure en quelques minutes. Envoyez des requêtes avec n'importe quel client compatible OpenAI et recevez instantanément des réponses textuelles sans restrictions.
URL de base et authentification
Connectez la configuration de votre SDK existant à notre point de terminaison immédiatement. Pointez votre client vers l'URL de base dédiée et fournissez la clé générée sur notre tableau de bord. Nous utilisons l'authentification par en-tête standard, donc aucune configuration complexe n'est requise.
Le point de terminaison est HTTPS://api.abliteratedqwen.com/v1. Créez un compte via Google ou e-mail, puis récupérez votre clé depuis le tableau de bord. Utilisez cette clé dans l'en-tête Authorization comme jeton Bearer pour chaque demande.
- URL de base : HTTPS://api.abliteratedqwen.com/v1
- En-tête Auth : Authorization: Bearer YOUR_API_KEY
Aucun numéro de téléphone n'est requis pour l'inscription, et la clé apparaît instantanément lors de sa création.
Point de terminaison Chat Completions
Envoyez des messages textuels et recevez des réponses non restreintes en utilisant l'endpoint standard de chat-completions. Cet endpoint gère tous vos besoins de génération de texte sans les filtres de contenu habituels. Il fonctionne de manière identique à l'interface de chat OpenAI mais supprime la couche de refus.
Envoyez une requête POST à /v1/chat/completions avec le nom de votre modèle et l'historique de la conversation. Le système traite l'entrée et renvoie le texte généré. Vous pouvez utiliser n'importe quelle bibliothèque standard pour formater la charge utile JSON.
Voici une requête de base pour commencer :
curl https://api.abliteratedqwen.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
}'La réponse contient tous les détails de la complétion. Vous pouvez l'intégrer directement dans vos applications.
Réponses en streaming et consommation de jetons
Recevez des mises à jour token par token en temps réel via les Server-Sent Events. Cette fonctionnalité permet une expérience utilisateur plus fluide dans les interfaces de chat. Vous pouvez suivre les métriques d'utilisation directement depuis le dernier chunk du flux.
Définissez le paramètre stream sur true dans votre requête. Le serveur enverra plusieurs objets JSON, chacun contenant un delta partiel. Le dernier chunk inclut l'utilisation totale des jetons pour la requête.
Utilisez ce code pour gérer le streaming en Python :
from openai import OpenAI
client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Cette approche réduit considérablement la latence perçue. Les utilisateurs voient le texte apparaître dès sa génération.
Appel de fonction et outils
Activer l'utilisation dynamique des outils en définissant des fonctions dans votre requête. Le modèle peut sélectionner et exécuter des outils en fonction du contexte. Cette capacité permet des workflows complexes et la récupération de données.
Définissez vos outils dans le tableau tools. Définissez tool_choice sur auto ou un nom de fonction spécifique. Le modèle répondra par un appel d'outil si cela est approprié.
Implémentez la logique de l'outil dans le code client. Analysez le tool_call_id et exécutez la fonction. Ensuite, envoyez le résultat au modèle pour une réponse finale.
Utilisez cet exemple Node.js pour configurer l'appel de fonction :
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);Cette fonctionnalité prend en charge la sélection automatique et manuelle des outils.
Mode JSON pour les sorties structurées
Forcez le modèle à produire un JSON valide pour une analyse fiable. Ce mode garantit que la réponse correspond exactement à votre schéma. Il est idéal pour les intégrations API et les tâches d'extraction de données.
Définissez le paramètre response_format sur json_object. Le modèle contraindra sa sortie à une syntaxe JSON valide. Cela réduit le besoin d'analyses regex complexes.
Définissez votre structure attendue dans le prompt système. Le modèle s'y conformera strictement. Cela est utile pour générer des données structurées ou des fichiers de configuration.
Paramètres : Température, Top P et Stop
Contrôlez l’aléatoire et les conditions d’arrêt de la génération. Ajustez la température pour la créativité, le top_p pour la diversité et les séquences d’arrêt pour une troncature précise. Ces paramètres vous offrent un contrôle fin sur la sortie.
Définissez temperature entre 0 et 2. Des valeurs plus élevées augmentent l'aléatoire. Utilisez top_p pour limiter le pool de jetons. Définissez des séquences stop pour arrêter la génération à des marqueurs spécifiques.
Vous pouvez également définir presence_penalty et frequency_penalty pour influencer la répétition des tokens. Ces paramètres permettent d'affiner le style et la cohérence de la sortie.
Voici un exemple de streaming pour voir ces paramètres en action :
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)Expérimentez avec ces valeurs pour trouver le meilleur équilibre pour votre cas d’utilisation.
Questions fréquentes
Quelle est la limite de fenêtre de contexte abliterated pour qwen ?
La fenêtre de contexte est de 100 000 tokens, couvrant à la fois la requête et la réponse. Cela permet de longues conversations et le traitement de gros documents. La sortie maximale par requête est de 16 000 tokens, ou 2 048 si vous ne définissez pas max_tokens.
Comment gérer les limites de taux et les erreurs ?
Vous êtes limité à 300 requêtes par minute et à 8 requêtes simultanées par clé. Si vous dépassez cette limite, vous recevrez une erreur 429. Une erreur 401 indique une clé invalide, tandis qu'une erreur 402 signifie que vous avez un crédit insuffisant. Les erreurs et les refus sont gratuits, vous n'êtes facturé que pour l'utilisation effective des tokens.
L'API Qwen Abliterated est-elle compatible avec les SDK OpenAI ?
Oui, il est entièrement compatible avec OpenAI. Vous pouvez utiliser les SDK officiels ou tout client compatible en modifiant l'URL de base et la clé API. Le point de terminaison suit la même structure que l'API standard de chat-completions.
Obtenez votre clé API maintenant
Inscrivez-vous, copiez la clé, mettez à jour votre URL de base. C'est tout ce qu'il y a.