アブリレート済みQwen APIクイックスタート

ベースURLと認証

既存のSDK設定を当社のエンドポイントに即座に接続します。クライアントを専用ベースURLに向け、ダッシュボードで生成されたキーを入力してください。標準的なヘッダー認証を使用しているため、複雑なセットアップは不要です。

エンドポイントは HTTPS://api.abliteratedqwen.com/v1 です。Googleまたはメールでアカウントを作成し、ダッシュボードからキーを取得してください。このキーを、すべてのリクエストのAuthorizationヘッダーにBearerトークンとして使用します。

• ベースURL: HTTPS://api.abliteratedqwen.com/v1
• Authヘッダー: Authorization: Bearer YOUR_API_KEY

サインアップには電話番号は不要で、キーは作成と同時に表示されます。

チャット完了エンドポイント

標準のchat-completionsエンドポイントを使用してテキストメッセージを送信し、制限のない返信を受信します。このエンドポイントは、通常の内容フィルタなしですべてのテキスト生成ニーズを処理します。OpenAIチャットインターフェースとまったく同じように機能しますが、拒否レイヤーを削除します。

モデル名と会話履歴を使用して /v1/chat/completions へ POST リクエストを送信します。システムは入力を処理し、生成されたテキストを返します。JSON ペイロードをフォーマットするために任意の標準ライブラリを使用できます。

始めるための基本的なリクエスト:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

レスポンスには完全な補完詳細が含まれます。これをアプリケーションに直接統合できます。

ストリーミングレスポンスとトークン使用量

サーバー送信イベントを介してリアルタイムでトークン単位の更新を受信します。この機能により、チャットインターフェースでより滑らかなユーザーエクスペリエンスが実現します。ストリームの最終チャンクから直接使用量メトリクスを追跡できます。

リクエストにstreamパラメータをtrueに設定してください。サーバーは部分的なデルタを含む複数のJSONオブジェクトを送信します。最後のチャンクにはリクエストの総トークン使用量が含まれます。

Pythonでストリーミングを処理するには、このコードを使用してください:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

この手法は、知覚遅延を大幅に削減します。ユーザーはテキストが生成されながら表示されるのを見ることができます。

関数呼び出しとツール

リクエスト内で関数を定義することで動的なツール使用を有効化します。モデルはコンテキストに基づいてツールを選択・実行できます。この機能により、複雑なワークフローやデータ取得が可能になります。

tools配列でツールを定義してください。tool_choiceをautoまたは特定の関数名に設定します。モデルは適切な場合、ツール呼び出しで応答します。

クライアントコードでツールロジックを実装します。tool_call_idを解析し、関数を実行します。その後、最終的なレスポンスのために結果をモデルに送信します。

関数呼び出しの設定には、このNode.jsの例を使用してください:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

この機能は、自動ツール選択と手動ツール選択の両方をサポートします。

構造化出力用のJSONモード

信頼性の高いパースのために有効なJSONを出力するようモデルに強制します。このモードは、応答がスキーマと完全に一致することを保証します。API統合やデータ抽出タスクに最適です。

response_format パラメータを json_object に設定してください。モデルは出力を有効な JSON 構文に制限します。これにより、複雑な正規表現解析の必要性が軽減されます。

システムプロンプトで期待される構造を定義します。モデルはそれを厳密に守ります。これは構造化データや設定ファイルの生成に役立ちます。

パラメータ: Temperature, Top P, Stop

生成のランダム性と停止条件を制御します。創造性のために temperature を調整し、多様性のために top_p を調整し、正確な切り捨てのために stop sequences を設定します。これらのパラメータにより、出力に対してきめ細かい制御が可能です。

温度を0から2の間に設定します。高い値はランダム性を増大させます。top_pを使用してトークンプールを制限します。特定のマーカーで生成を停止させるために停止シーケンスを定義します。

presence_penaltyとfrequency_penaltyを設定してトークンの繰り返しを制御できます。これらの設定は出力のスタイルと一貫性を洗練するのに役立ちます。

これらのパラメータを実際に動作させるためのストリーミングの例:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

ユースケースに最適なバランスを見つけるために異なる値を試してください。