OpenAI 및 Anthropic 호환성

이미 OpenAI 또는 Anthropic SDK를 사용 중이신가요? base URL과 API 키, 두 가지만 변경하면 Nexevo를 가리키도록 설정할 수 있습니다. 기존 코드는 그대로 작동하며, 모든 호출에는 Nexevo의 스마트 라우팅, 결제, BYOK이 적용됩니다.

엔드포인트

POST/v1/chat/completions —

OpenAI Chat Completions

POST/v1/messages —

Anthropic Messages

둘 다 각 벤더의 정확한 와이어 포맷(스트리밍 및 비스트리밍)을 사용하므로 공식 SDK가 수정 없이 작동합니다. 이는 SDK가 있느냐는 질문에 대한 답이기도 합니다. 이미 가지고 있는 OpenAI 또는 Anthropic SDK를 사용하면 됩니다.

인증

워크스페이스 API 키를 사용하세요. REST API와 동일한 키입니다. 이 키는 호출을 하나의 워크스페이스에 바인딩합니다. OpenAI 표면은 Authorization: Bearer 헤더에서 읽고, Anthropic 표면은 x-api-key에서 읽습니다. SDK는 api_key 옵션에서 자동으로 설정합니다.

모델 선택

모델로 "nexevo-auto"를 전달하면 Nexevo의 라우터가 각 요청에 가장 적합한 모델을 선택합니다. 또는 명시적인 Nexevo 모델 id를 전달하여 고정할 수 있습니다. 알 수 없는 모델 id는 404를 반환합니다.

OpenAI — Python

python

from openai import OpenAI

client = OpenAI(
    base_url="https://nexevo.ai/v1",
    api_key="sk-ws-...",  # your Nexevo workspace API key
)

resp = client.chat.completions.create(
    model="nexevo-auto",  # or an explicit Nexevo model id
    messages=[{"role": "user", "content": "Summarize our Q2 results."}],
)
print(resp.choices[0].message.content)

스트리밍

python

stream = client.chat.completions.create(
    model="nexevo-auto",
    messages=[{"role": "user", "content": "Write a short product update."}],
    stream=True,
)
for chunk in stream:
    print(chunk.choices[0].delta.content or "", end="", flush=True)

OpenAI — JavaScript / TypeScript

javascript

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://nexevo.ai/v1",
  apiKey: process.env.NEXEVO_API_KEY, // your workspace API key
});

const resp = await client.chat.completions.create({
  model: "nexevo-auto",
  messages: [{ role: "user", content: "Summarize our Q2 results." }],
});
console.log(resp.choices[0].message.content);

OpenAI — curl

bash

curl https://nexevo.ai/v1/chat/completions \\
  -H "Authorization: Bearer sk-ws-..." \\
  -H "Content-Type: application/json" \\
  -d '{
    "model": "nexevo-auto",
    "messages": [{"role": "user", "content": "Hello"}]
  }'

Anthropic — Python

Anthropic SDK는 base URL에 /v1/messages를 추가하므로, 이를 https://nexevo.ai로 설정하세요.

python

from anthropic import Anthropic

client = Anthropic(
    base_url="https://nexevo.ai",
    api_key="sk-ws-...",  # your Nexevo workspace API key
)

msg = client.messages.create(
    model="nexevo-auto",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Summarize our Q2 results."}],
)
print(msg.content[0].text)

Anthropic — curl

bash

curl https://nexevo.ai/v1/messages \\
  -H "x-api-key: sk-ws-..." \\
  -H "anthropic-version: 2023-06-01" \\
  -H "Content-Type: application/json" \\
  -d '{
    "model": "nexevo-auto",
    "max_tokens": 1024,
    "messages": [{"role": "user", "content": "Hello"}]
  }'

호출은 네이티브 chat 레인과 동일하게 과금됩니다(스마트 라우팅, 평면 요금 카드). 워크스페이스 BYOK 키가 설정된 경우 자동으로 사용됩니다. 응답의 토큰 usage는 최선의 추정치입니다. 추론 및 도구 호출 프레임은 이 표면에서 전송되지 않으며, assistant 텍스트만 반환합니다.