OpenAI SDK drop-in

Verander één regel in elk project dat de OpenAI-SDK gebruikt en het routeert nu via Soriku. Je lokale modellen worden beschikbaar, je bestaande prompts blijven werken.

De wijziging

Zet de base URL op http://localhost:8765/api/v1. Dat is het. De rest van de SDK gedraagt zich identiek. Soriku accepteert hetzelfde request-schema en geeft dezelfde response-vorm terug.

Voor en na

# voor
client = OpenAI(api_key=os.environ["OPENAI_API_KEY"])
 
# na
client = OpenAI(
    base_url="http://localhost:8765/api/v1",
    api_key="soriku-local"
)

Model-namen

Gebruik model='auto' om Soriku te laten routeren. Of gebruik de originele model-namen: gpt-4o werkt nog steeds als je een OpenAI-key geregistreerd hebt, claude-sonnet-4-6 werkt met Anthropic, qwen2.5-coder:7b voor lokale Ollama. Soriku resolved de prefix automatisch.

Wat werkt

Chat completions, streaming en non-streaming
Embeddings via /api/v1/embeddings
Function/tool calling (Soriku geeft door aan het gekozen model)
Response format JSON mode waar het onderliggende model dat ondersteunt

Wat (nog) niet

Image generation endpoints (gebruik de provider direct)
Assistants v2 API (gebruik Soriku's agent persona's in plaats daarvan)
OpenAI-specifieke moderation endpoint