Ollama-handleiding

Gebruik offline AI met private lokale modellen via Ollama.

Wat offline AI betekent

Wanneer offline AI actief is, loopt analyse van ondersteunde bestanden via je lokale Ollama-server in plaats van cloudproviders.

Download Ollama voor macOS van de officiële website, installeer het en open de app één keer zodat de lokale server start.

Zush werkt het best met een model dat beelden, screenshots, PDFs en previews begrijpt. Begin met:

ollama pull qwen2.5vl:3b

Ollama draait normaal op de achtergrond. Als Zush niet kan verbinden, start het vanuit Terminal:

ollama serve

Open Zush, ga naar AI Setup, zet Offline AI mode aan, vernieuw de modellenlijst, kies je model en voer Test uit.

Kies op taak: qwen2.5vl:3b voor snelheid, gemma3:4b voor balans of granite3.2-vision:2b voor documenten.

Snelheid

De snelste eerste keuze voor dagelijkse screenshots en afbeeldingen.

Meeste Apple Silicon MacsSnelst

ollama pull qwen2.5vl:3b

Balans

Een goede standaard wanneer snelheid en kwaliteit allebei tellen.

8 GB+ aanbevolenGebalanceerd

ollama pull gemma3:4b

Documenten

Een compact vision-model voor documentpreviews, scans en gestructureerde inhoud.

Meeste Apple Silicon MacsSnel

ollama pull granite3.2-vision:2b

Of kies een ander vision-model uit de Ollama-modelcatalogus .

Voer ollama list uit in Terminal. Is de lijst leeg, download dan eerst een model en vernieuw Zush.

Controleer of Ollama draait en of de host in Zush http://127.0.0.1:11434 is.

Gebruik een kleiner model zoals qwen2.5vl:3b, sluit zware apps of gebruik Cloud voor grote batches.

Offline AI staat los van Cloud en BYOK. Cloud gebruikt Zush-credits, BYOK gebruikt je provider-sleutel en offline AI gebruikt Ollama op je apparaat.