Kkorouter

문서

빠른 시작

OpenAI SDK를 그대로 쓰고 base_url만 바꾸면 됩니다. models 배열을 주면 순서대로 자동 폴백합니다.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.arcrouter.dev/v1",
    api_key="sk-korouter-...",
)
resp = client.chat.completions.create(
    model="motif/motif-2-12.7b",
    # 폴백 체인 (OpenRouter 호환)
    extra_body={"models": ["lgai/exaone-4.0-32b"]},
    messages=[{"role": "user", "content": "안녕하세요"}],
)

Fusion (앙상블)

패널 모델들(1~8개)이 병렬로 답을 만들고, 분석가 모델이 temperature 0으로 합의점·모순·고유 통찰을 구조 분석한 뒤 최종 답을 합성합니다. 응답의 korouter.analysis에 분석 결과가 담깁니다.

resp = client.chat.completions.create(
    model="korouter/fusion",
    extra_body={"korouter": {
        "mode": "fusion",
        "fusion": {
            "panel": ["motif/motif-2-12.7b",
                      "lgai/exaone-4.0-32b",
                      "kakao/kanana-1.5-15.7b-a3b"],
            "analyst": "upstage/solar-pro-2",
        },
    }},
    messages=[{"role": "user", "content": "..."}],
)

공급자 입점

  1. OpenAI 호환 엔드포인트(vLLM, SGLang 등)를 직접 호스팅합니다. GPU·서빙은 공급자 소유.
  2. 콘솔에서 엔드포인트 URL·인증키·모델·가격(₩/1M tokens)을 등록합니다.
  3. 헬스 프로브·카나리 검증 통과 후 카탈로그에 노출됩니다.
  4. 매출은 월 단위 원화 정산 — 사용료 마진 없이 전액이 지급되고 역발행 세금계산서가 발행됩니다. 플랫폼 수익은 고객 크레딧 충전 수수료(5.5%)에서만 나옵니다.

결제

PortOne 경유 카드·계좌이체로 크레딧을 충전합니다. 충전 시 수수료 5.5%(최소 ₩1,000)가 차감되며, 사용료에는 마진이 없습니다 — 모델 가격은 공급자 정가 그대로입니다. 사업자는 충전 건별 세금계산서가 발행되며, AI바우처 수요기업은 바우처 정산 절차(공급기업 등록 완료 후)를 통해 크레딧을 지급받습니다.