Docker-deployment

Gecontaineriseerde Soriku + Ollama, klaar om op te starten met één commando.

Start de stack

docker compose up -d
docker compose exec ollama ollama pull qwen2.5-coder:7b
docker compose logs -f soriku

Volumes

De compose-file mount ./data voor Soriku's persistente state en een named volume ollama-models voor gepulde modellen. Back-up ./data en je back-upt agents, capability map, routing-logs en keystore.

GPU-acceleratie

Op Linux met NVIDIA, pass-through de GPU via de NVIDIA Container Toolkit:

# docker-compose.override.yml
services:
  ollama:
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]

macOS Docker kan de Metal GPU niet bereiken. Voor Apple Silicon is native Python veel sneller dan Docker.

Updaten

docker compose pull
docker compose up -d