Abliterated Qwen API 빠른 시작

Base URL 및 인증

기존 SDK 구성을 즉시 저희 엔드포인트에 연결하세요. 클라이언트를 전용 base URL로 가리키고 대시보드에서 생성한 키를 입력하세요. 표준 헤더 인증을 사용하므로 복잡한 설정이 필요하지 않습니다.

엔드포인트는 HTTPS://api.abliteratedqwen.com/v1입니다. Google 또는 이메일을 통해 계정을 생성한 후 대시보드에서 키를 가져오세요. 모든 요청에 대해 Bearer 토큰으로 Authorization 헤더에 이 키를 사용하세요.

• Base URL: HTTPS://api.abliteratedqwen.com/v1
• Auth Header: Authorization: Bearer YOUR_API_KEY

가입에 전화번호가 필요 없으며, 키는 생성 즉시 표시됩니다.

채팅 완료 엔드포인트

표준 채팅-완료 엔드포인트를 사용하여 텍스트 메시지를 보내고 제한 없는 응답을 받으세요. 이 엔드포인트는 일반적인 콘텐츠 필터 없이 모든 텍스트 생성 요구를 처리합니다. OpenAI 채팅 인터페이스와 동일하게 작동하지만 거부 레이어를 제거합니다.

모델 이름과 대화 기록을 사용하여 /v1/chat/completions으로 POST 요청을 보내세요. 시스템은 입력을 처리하고 생성된 텍스트를 반환합니다. JSON 페이로드를 서식 지정하기 위해 표준 라이브러리를 사용할 수 있습니다.

시작을 위한 기본 요청입니다:

Copycurl https://api.abliteratedqwen.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the top 5 npm packages for date formatting"}]
  }'

응답에는 전체 완료 세부 정보가 포함됩니다. 이를 애플리케이션에 직접 통합할 수 있습니다.

스트리밍 응답 및 토큰 사용량

서버 전송 이벤트를 통해 실시간으로 토큰 단위의 업데이트를 받습니다. 이 기능은 채팅 인터페이스에서 더 원활한 사용자 경험을 제공합니다. 스트림의 마지막 청크에서 직접 사용량 메트릭을 추적할 수 있습니다.

요청에서 stream 매개변수를 true로 설정하세요. 서버는 부분 델타를 포함하는 여러 JSON 객체를 전송합니다. 마지막 청크에는 요청에 대한 총 토큰 사용량이 포함됩니다.

Python에서 스트리밍을 처리하려면 다음 코드를 사용하세요:

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.abliteratedqwen.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

이 방식은 지각된 지연 시간을 크게 줄입니다. 사용자는 텍스트가 생성되는 대로 표시되는 것을 봅니다.

함수 호출 및 도구들

요청에서 함수를 정의하여 동적 도구 사용 활성화. 모델은 컨텍스트에 따라 도구를 선택하고 실행할 수 있습니다. 이 기능은 복잡한 워크플로우 및 데이터 검색을 가능하게 합니다.

tools 배열에 도구를 정의하세요. tool_choice를 auto 또는 특정 함수 이름으로 설정하세요. 모델은 적절한 경우 도구 호출로 응답합니다.

클라이언트 코드에서 도구 로직을 구현하세요. tool_call_id를 파싱하고 함수를 실행한 후, 최종 응답을 위해 결과를 모델에 다시 전송하세요.

함수 호출을 설정하기 위한 Node.js 예제를 사용하세요:

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.abliteratedqwen.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

이 기능은 자동 및 수동 도구 선택을 모두 지원합니다.

구조화된 출력을 위한 JSON 모드

신뢰할 수 있는 파싱을 위해 유효한 JSON 출력을 강제하세요. 이 모드는 응답이 스키마와 정확히 일치하도록 보장합니다. API 통합 및 데이터 추출 작업에 이상적입니다.

response_format 매개변수를 json_object로 설정하세요. 모델은 출력을 유효한 JSON 구문에 맞게 제한합니다. 이는 복잡한 정규식 파싱의 필요성을 줄여줍니다.

시스템 프롬프트에 예상 구조를 정의하세요. 모델은 이를 엄격히 따릅니다. 이는 구조화된 데이터나 구성 파일을 생성하는 데 유용합니다.

파라미터: Temperature, Top P, Stop

생성의 무작위성과 중지 조건을 제어하세요. 창의성을 위해 temperature, 다양성을 위해 top_p, 정확한 잘라내기를 위해 stop 시퀀스를 조정하세요. 이러한 파라미터는 출력에 대한 세밀한 제어를 제공합니다.

temperature를 0과 2 사이로 설정합니다. 높은 값은 무작위성을 증가시킵니다. 토큰 풀을 제한하기 위해 top_p를 사용하세요. 특정 마커에서 생성을 중단하기 위해 중단 시퀀스를 정의하세요.

presence_penalty 및 frequency_penalty를 설정하여 토큰 반복에 영향을 줄 수 있습니다. 이러한 설정은 출력의 스타일과 일관성을 다듬는 데 도움이 됩니다.

이러한 매개변수를 실제로 적용하는 스트리밍 예제입니다:

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

사용 사례에 맞는 최적의 균형을 찾기 위해 다양한 값을 실험하세요.