Abliteroidun Qwen-API:n pika-aloitus

Perus-URL ja todennus

Yhdistä olemassa olevan SDK-konfiguraatiosi meidän päätepisteeseemme välittömästi. Suuntaa asiakasohjelmasi omistettuun base URL:iin ja syötä avain, jonka olet luonut hallintapaneelissamme. Käytämme standardia header-todennusta, joten monimutkainen määritys ei ole tarpeen.

Pääte on HTTPS://api.abliteratedqwen.com/v1. Luo tili Google- tai sähköpostin kautta, ja hae avaimesi hallintapaneelista. Käytä tätä avainta Authorization-headerissä Bearer-tokenina jokaisessa pyynnössä.

• Perus-URL: HTTPS://api.abliteratedqwen.com/v1
• Auth-otsake: Authorization: Bearer YOUR_API_KEY

Rekisteröitymiseen ei tarvita puhelinnumeroa, ja avain ilmestyy välittömästi luomisen jälkeen.

Chat Completions Endpoint

Lähetä tekstiviestejä ja vastaanota rajoittamattomia vastauksia käyttäen standardia chat-completions-päätettä. Tämä päätepiste käsittelee kaikki tekstigenerointitarpeesi ilman tavallisia sisältösuodattimia. Se toimii täsmälleen kuten OpenAI-chatrajapinta, mutta poistaa hylkäyskerroksen.

Lähetä POST-pyyntö osoitteeseen /v1/chat/completions mallinimesi ja keskusteluhistoriasi kera. Järjestelmä käsittelee syötteen ja palauttaa luodun tekstin. Voit käyttää mitä tahansa standardikirjastoa JSON-pyyntörunkon muotoiluun.

Tässä on peruspyyntö aloittamiseen:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

Vastaus sisältää täydelliset täydennyksen tiedot. Voit integroida tämän suoraan sovelluksiisi.

Streamausvastaukset ja merkkikäyttö

Vastaanota tokeni tokeni -päivitykset reaaliajassa Server-Sent Eventsin avulla. Tämä ominaisuus mahdollistaa sujuvamman käyttökokemuksen keskusteluliittymissä. Voit seurata käyttömittareita suoraan virran viimeisestä lohkosta.

Aseta stream-parametri arvoksi true pyynnössäsi. Palvelin lähettää useita JSON-objekteja, joista kukin sisältää osittaisen deltan. Viimeinen lohko sisältää pyynnön kokonaistokenkäytön.

Käytä tätä koodia streamauksen käsittelyyn Pythonissa:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Tämä lähestymistapa vähentää havaittua viivettä merkittävästi. Käyttäjät näkevät tekstin ilmestyvän sen tuotannon aikana.

Funktikutsut ja työkalut

Ota käyttöön dynaaminen työkalukäyttöönotto määrittelemällä funktioita pyynnössäsi. Malli voi valita ja suorittaa työkaluja kontekstin perusteella. Tämä ominaisuus mahdollistaa monimutkaiset työvuorot ja tietojen noudon.

Määritä työkalut tools-taulukkoon. Aseta tool_choice arvoon auto tai tiettyyn funktionimeen. Malli vastaa työkalukutsulla, jos se on asianmukaista.

Ota työkalulogiikka käyttöön asiakaskoodissasi. Jäsentele tool_call_id ja suorita funktio. Lähetä tulos sitten takaisin mallille lopullista vastausta varten.

Käytä tätä Node.js-esimerkkiä asettaaksesi toimintokutsut:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tämä ominaisuus tukee sekä automaattista että manuaalista työkalun valintaa.

JSON-tila rakenteiselle lähdölle

Pakota malli tuottamaan kelvollinen JSON luotettavaa purkamista varten. Tämä tila varmistaa, että vastaus vastaa skeemaasi täsmälleen. Se on ihanteellinen API-integraatioita ja datan purkutehtäviä varten.

Aseta response_format-parametri arvoksi json_object. Malli rajoittaa tulostensa kelvolliseen JSON-syntaksiin. Tämä vähentää tarvetta monimutkaiseen regex-jäsentämiseen.

Määrittele odottamasi rakenne järjestelmäviestissä. Malli noudattaa sitä tarkasti. Tämä on hyödyllistä rakenteellisen datan tai konfiguraatiotiedostojen luomisessa.

Parametrit: Lämpötila, Top P ja Stop

Ohjaa generoinnin satunnaisuutta ja pysähtymisehtoja. Säädä lämpötilaa luovuutta varten, top_p:ta monipuolisuutta varten ja pysäytyssekvenssejä tarkkaa katkaisua varten. Nämä parametrit antavat hienojakoisen hallinnan tulokseen.

Aseta temperature arvoksi 0–2. Korkeammat arvot lisäävät satunnaisuutta. Käytä top_p rajoittaaksesi tokenipoolia. Määritä stop-sekvenssit lopettaaksesi tuotannon tietyissä kohdissa.

Voit myös asettaa presence_penalty ja frequency_penalty vaikuttamaan tokenien toistumiseen. Nämä asetukset auttavat hienosäätämään tuloksen tyyliä ja johdonmukaisuutta.

Tässä on streamaus-esimermi, joka näyttää näiden parametrien toiminnan:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Kokeile näitä arvoja löytääksesi parhaan tasapainon käyttötarkoituksellesi.