Abliterate Edilmiş Qwen API Hızlı Başlangıç

Temel URL ve Kimlik Doğrulama

Mevcut SDK yapılandırmanızı hemen uç noktamıza bağlayın. İstemcinizi özel temel URL'ye yönlendirin ve kontrol panelimizde oluşturduğunuz anahtarı girin. Standart başlık kimlik doğrulaması kullandığımız için karmaşık bir kurulum gerekmez.

Uç nokta HTTPS://api.abliteratedqwen.com/v1'dir. Google veya e-posta ile bir hesap oluşturun, ardından anahtarınızı panelden alın. Her istek için bu anahtarı Authorization başlığında Bearer jetonu olarak kullanın.

• Temel URL: HTTPS://api.abliteratedqwen.com/v1
• Auth Header: Authorization: Bearer YOUR_API_KEY

Kayıt için telefon numarası gerekmez ve anahtar oluşturulduğunda anında görünür.

Sohbet Tamamlamaları Uç Noktası

Metin mesajları gönderin ve standart chat-completions uç noktasını kullanarak sınırsız yanıtlar alın. Bu uç nokta, normal içerik filtreleri olmadan tüm metin oluşturma ihtiyaçlarınızı karşılar. OpenAI sohbet arayüzüyle aynı şekilde çalışır ancak reddiye katmanını kaldırır.

model adınız ve konuşma geçmişiniz ile /v1/chat/completions adresine POST isteği gönderin. Sistem girdiyi işler ve oluşturulan metni döndürür. JSON yükünü biçimlendirmek için herhangi bir standart kütüphane kullanabilirsiniz.

Başlamak için temel bir istek:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

Yanıt, tam tamamlama ayrıntılarını içerir. Bu verileri uygulamalarınıza doğrudan entegre edebilirsiniz.

Akış Yanıtları ve Token Kullanımı

Sunucu Tarafından Gönderilen Olaylar aracılığıyla gerçek zamanlı olarak token token güncellemeler alın. Bu özellik sohbet arayüzlerinde daha akıcı bir kullanıcı deneyimi sağlar. Kullanım metriklerini akışın son parçasından doğrudan izleyebilirsiniz.

İsteğinizde stream parametresini true olarak ayarlayın. Sunucu, her biri kısmi bir delta içeren birden fazla JSON nesnesi gönderecektir. Son parça, istek için toplam belirteç kullanımını içerir.

Python'da akış işlemini yönetmek için bu kodu kullanın:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Bu yaklaşım, algılanan gecikmeyi önemli ölçüde azaltır. Kullanıcılar metnin oluşturulurken belirdiğini görür.

Fonksiyon Çağırma ve Araçlar

İşlevleri isteğinizde tanımlayarak dinamik araç kullanımını etkinleştirin. Model, bağlama göre araçları seçebilir ve çalıştırabilir. Bu yetenek karmaşık iş akışlarına ve veri çekmeye olanak tanır.

Araçlarınızı tools dizisinde tanımlayın. tool_choice'u auto veya belirli bir işlev adının üzerine ayarlayın. Model, uygun olduğunda bir araç çağrısı ile yanıt verecektir.

İstemci kodunuzda araç mantığını uygulayın. tool_call_id'yi ayrıştırın ve işlevi yürütün. Ardından nihai yanıt için sonucu modele gönderin.

İşlev çağırma (function calling) kurulumu için bu Node.js örneğini kullanın:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Bu özellik otomatik ve manuel araç seçimini destekler.

Yapılandırılmış Çıktı İçin JSON Modu

Modelin geçerli JSON çıktısı vermesini sağlayın. Bu mod, yanıtın şemanızla tam olarak eşleşmesini garanti eder. API entegrasyonları ve veri çıkarma görevleri için idealdir.

response_format parametresini json_object olarak ayarlayın. Model, çıktısını geçerli JSON sözdizimine kısıtlayacaktır. Bu, karmaşık regex ayrıştırmaya olan ihtiyacı azaltır.

Beklenen yapıyı sistem isteminde tanımlayın. Model buna sıkı bir şekilde uyacaktır. Bu, yapılandırılmış veri veya yapılandırma dosyaları oluşturmak için kullanışlıdır.

Parametreler: Sıcaklık, Top P ve Durdur

Üretimin rastgeleliğini ve durdurma koşullarını kontrol edin. Yaratıcılık için sıcaklığı, çeşitlilik için top_p'yi ve hassas kesme için durdurma dizilerini ayarlayın. Bu parametreler çıktınız üzerinde ince ayarlı kontrol sağlar.

0 ile 2 arasında bir temperature değeri ayarlayın. Daha yüksek değerler rastgeleliği artırır. Token havuzunu sınırlamak için top_p'yi kullanın. Belirli işaretlerde üretimi durdurmak için stop dizileri tanımlayın.

Token tekrarını etkilemek için presence_penalty ve frequency_penalty ayarlayabilirsiniz. Bu ayarlar, çıktının stilini ve tutarlılığını iyileştirmeye yardımcı olur.

Bu parametrelerin eylemde nasıl çalıştığını görmek için bir akış örneği:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

En uygun dengeyi bulmak için bu değerlerle deney yapın.