Wat ga je bouwen?
Stel je voor: een klant bezoekt jouw webshop om 23:00 uur en heeft een vraag over de levertijd van een product. Niemand is beschikbaar, maar jouw AI-agent antwoordt binnen seconden op basis van jouw eigen productinformatie. Geen ChatGPT-abonnement nodig, geen data naar de cloud: alles draait lokaal op jouw eigen machine.
In deze handleiding bouw je stap voor stap een lokale klantvragen-agent met Flowise en Llama 4 Scout via Ollama. Je laadt je eigen productdocumenten in, configureert een chatflow, en embed de agent op je website. Dit kost je precies 60 minuten en je hebt daarna een werkende AI-assistent die volledig onder jouw controle staat.
Stap 1: Wat heb je nodig?
Voordat je begint, controleer of je systeem aan de minimale vereisten voldoet. Llama 4 Scout is een relatief compact model maar vraagt wel voldoende geheugen.
Minimale systeemvereisten: 16 GB RAM (32 GB aanbevolen), een moderne CPU (Apple Silicon, AMD Ryzen 5000+ of Intel i7 12e gen+), minimaal 20 GB vrije schijfruimte, en een stabiele internetverbinding voor de installaties. Je hebt verder nodig: Node.js versie 18 of hoger, npm versie 9 of hoger, Python 3.10 of hoger (optioneel voor scripts), en een moderne browser zoals Chrome of Firefox.
Controleer je Node.js versie via de terminal:
node --version
# Verwachte output: v18.x.x of hoger
npm --version
# Verwachte output: 9.x.x of hogerStap 2: Ollama installeren
Ollama is het platform dat lokale AI-modellen beheert en uitvoert. Het werkt als een soort 'model manager': je downloadt modellen, start ze als een lokale API-server, en andere tools zoals Flowise kunnen er vervolgens mee communiceren.
Installatie op macOS: gebruik de officiële installer of Homebrew:
# Optie 1: via Homebrew
brew install ollama
# Optie 2: directe download
curl -fsSL https://ollama.com/install.sh | sh
# Verificeer de installatie
ollama --version
# Verwachte output: ollama version 0.3.x of hogerInstallatie op Linux (Ubuntu/Debian):
curl -fsSL https://ollama.com/install.sh | sh
# Start de Ollama service
sudo systemctl start ollama
sudo systemctl enable ollama
# Controleer of de service draait
sudo systemctl status ollamaInstallatie op Windows: download de .exe installer via https://ollama.com/download/windows. Na installatie is Ollama beschikbaar via de terminal (PowerShell of Command Prompt). De service start automatisch bij het opstarten van Windows.
Stap 3: Llama 4 Scout downloaden via Ollama
Llama 4 Scout is Meta's meest efficiënte model in de Llama 4-serie. Het is ontworpen voor snelle inferentie op consumer hardware: de 17B actieve parameters (uit 109B totaal via Mixture of Experts) maken het ideaal voor lokaal gebruik op een laptop of kleine server. Het model presteert uitstekend op instructietaken, documentanalyse en klantvragen.
# Download Llama 4 Scout (circa 10-12 GB)
ollama pull llama4:scout
# Controleer of het model beschikbaar is
ollama list
# Test het model snel
ollama run llama4:scout "Geef een korte uitleg van wat jij kunt doen"Het downloaden duurt afhankelijk van je internetverbinding 10 tot 30 minuten. Na het downloaden kun je het model testen door een directe vraag te stellen. Als je een foutmelding krijgt met 'insufficient memory', probeer dan het kleinere llama4:scout-q4 kwantisatie-variant.
# Alternatief: gecomprimeerde versie (minder geheugen)
ollama pull llama4:scout-q4_0
# Controleer het geheugengebruik
ollama psStap 4: Flowise installeren via npm
Flowise is een open-source tool waarmee je visueel AI-workflows bouwt via een drag-and-drop interface. Je verbindt nodes (bouwblokken) met elkaar: een LLM-node, een document loader, een memory-module, en een chat-interface. Geen code schrijven, wel volledige controle over de architectuur.
Officiële Flowise documentatie: https://docs.flowiseai.com
# Installeer Flowise globaal
npm install -g flowise
# Verificeer de installatie
flowise --version
# Alternatief: gebruik npx zonder globale installatie
npx flowise startStap 5: Flowise starten en de UI openen
Start Flowise op met het volgende commando. De server luistert standaard op poort 3000. Je kunt een andere poort opgeven als je een conflict hebt met een andere service.
# Start Flowise op de standaard poort (3000)
flowise start
# Of op een aangepaste poort
flowise start --port 3001
# Met een wachtwoord beveiligd (aanbevolen voor productie)
flowise start --FLOWISE_USERNAME=admin --FLOWISE_PASSWORD=jouwwachtwoord123Open je browser en ga naar http://localhost:3000. Je ziet het Flowise dashboard met een leeg canvas. Links in de navigatie vind je 'Chatflows', 'Agentflows', 'Marketplaces' en 'Credentials'. We beginnen met een nieuw Chatflow.
Stap 6: Een chatflow aanmaken
Klik rechtsboven op 'Add New' om een nieuwe chatflow aan te maken. Geef het een duidelijke naam, bijvoorbeeld 'Klantvragen Agent - Producten'. Je krijgt nu een leeg canvas te zien.
In een chatflow verbind je verschillende nodes met elkaar. Voor onze klantvragen-agent heb je nodig: een Ollama-node (het taalmodel), een PDF Document Loader (je productinformatie), een In-Memory Vector Store (voor snelle zoekacties), en een Conversational Retrieval QA Chain (de 'hersenen' die alles verbindt).
Voeg nodes toe via het zoekpaneel links (klik op het '+' icoon of sleep vanuit de sidebar). Zoek op 'Ollama' voor het taalmodel. Je ziet twee Ollama-opties: 'ChatOllama' voor chat en 'OllamaEmbeddings' voor het embedden van documenten. Voeg beide toe aan je canvas.
Stap 7: Llama 4 Scout koppelen in Flowise
Klik op de 'ChatOllama' node op je canvas. In het rechterpaneel verschijnen de instellingen. Vul de volgende waarden in:
Base URL: http://localhost:11434 (dit is het standaard Ollama-adres). Model Name: llama4:scout (precies zoals je het hebt gedownload). Temperature: 0.3 (lager is meer feitelijk, hoger is meer creatief; voor klantvragen is 0.3 ideaal). Context Window Size: 8192 (het maximale aantal tokens dat het model in een keer verwerkt).
Doe hetzelfde voor de 'OllamaEmbeddings' node: koppel ook hier het llama4:scout model. Embeddings worden gebruikt om je productdocumenten om te zetten naar vectoren, zodat de agent snel de meest relevante tekst kan vinden bij een klantvraag.
Stap 8: Document loader toevoegen
Nu laad je je productinformatie in. Flowise ondersteunt PDF-bestanden, tekstbestanden, Word-documenten, en zelfs webpagina's. Voor deze handleiding gebruiken we een PDF met producten. Heb je nog geen PDF? Maak er een aan met je productcatalogus, FAQ, of handleidingen.
Voeg de 'PDF File' node toe vanuit de sidebar (zoek op 'PDF'). Klik op de node en upload je PDF-bestand. Voeg daarna de 'In-Memory Vector Store' toe en koppel:
PDF File node: verbind de output ('Document') met de 'Document' input van de In-Memory Vector Store. OllamaEmbeddings node: verbind de output ('Embeddings') met de 'Embeddings' input van de Vector Store. Voeg ten slotte de 'Conversational Retrieval QA Chain' toe en koppel: de Vector Store output aan 'Vector Store Retriever' en de ChatOllama aan 'Language Model'.
# Voorbeeld structuur van de connecties in Flowise:
# [PDF File] ──────────────────────┐
# ▼
# [OllamaEmbeddings] ──── [In-Memory Vector Store]
# │
# [ChatOllama] ──── [Conv. Retrieval QA Chain] ◄──┘
# │
# [Chat Output]Sla de chatflow op via het diskette-icoon rechtsboven. Flowise slaat alles automatisch op in een lokale SQLite database.
Stap 9: De agent testen in de chat UI
Klik op het chat-icoon rechtsboven (het praatjesbalonnetje). Een chatvenster opent. Stel een testvraag die gerelateerd is aan jouw productdocument. De eerste vraag duurt iets langer omdat het model de documenten indexeert en in het vectorgeheugen laadt.
Voorbeeldvragen om te testen:
Gebruiker: "Wat is de levertijd van product X?"
Agent: "Op basis van de productinformatie is de levertijd van product X 3-5 werkdagen..."
Gebruiker: "Hebben jullie ook garantie op dit product?"
Agent: "Ja, product X heeft 2 jaar fabrieksgarantie. Voor defecten binnen..."
Gebruiker: "Wat zijn de afmetingen?"
Agent: "De afmetingen van product X zijn 45 x 30 x 15 cm (l x b x h)..."Als de agent antwoorden geeft die niet kloppen met je document, controleer dan of de PDF correct is geupload en of de verbindingen tussen de nodes goed zijn gelegd. Je kunt de logs bekijken via het 'Debug' icoon in de chatflow.
Stap 10: De agent embedden op je website
Zodra de agent naar wens werkt, kun je hem op je website plaatsen. Flowise biedt twee methoden: een iframe voor directe inbedding, en een API voor volledige controle via code.
Methode 1: iframe inbedding. Ga naar de chatflow, klik op het 'Embed' icoon (vierkantje met pijl). Kopieer de iframe code en plak hem op je website:
<iframe
src="http://localhost:3000/chatbot/jouw-chatflow-id"
style="border:none; width:100%; height:600px;"
allow="microphone"
></iframe>Methode 2: API integratie. Je kunt de agent aanroepen via een eenvoudige POST request. Dit is handig als je de chatbot wilt integreren in een bestaande applicatie of CRM:
curl -X POST \
http://localhost:3000/api/v1/prediction/jouw-chatflow-id \
-H "Content-Type: application/json" \
-d '{
"question": "Wat is de levertijd van product X?",
"overrideConfig": {
"temperature": 0.3
}
}'Methode 3: JavaScript widget. Flowise levert ook een ingebouwde chatbubble widget die je rechtsonder op je pagina plaatst:
<script type="module">
import Chatbot from 'https://cdn.jsdelivr.net/npm/flowise-embed/dist/web.js'
Chatbot.init({
chatflowid: 'jouw-chatflow-id',
apiHost: 'http://localhost:3000',
theme: {
button: {
backgroundColor: '#007BFF',
right: 20,
bottom: 20,
size: 'medium',
iconColor: 'white'
},
chatWindow: {
welcomeMessage: 'Hallo! Hoe kan ik je helpen met onze producten?',
backgroundColor: '#ffffff',
fontSize: 16
}
}
})
</script>Troubleshooting: Veelvoorkomende problemen
Probleem 1: Ollama reageert niet (Connection Refused)
Symptoom: Flowise geeft de foutmelding 'connect ECONNREFUSED 127.0.0.1:11434'.
# Controleer of Ollama draait
ps aux | grep ollama
# Start Ollama opnieuw
ollama serve
# Op Linux: herstart de service
sudo systemctl restart ollamaProbleem 2: Model niet gevonden (model not found)
Symptoom: de agent geeft 'model llama4:scout not found' terug. Dit betekent dat het model niet correct is gedownload of de naam verkeerd is gespeld.
# Bekijk alle beschikbare modellen
ollama list
# Herdownload het model als het ontbreekt
ollama pull llama4:scout
# Verwijder en herdownload bij een corrupt model
ollama rm llama4:scout
ollama pull llama4:scoutProbleem 3: Te traag of geheugenfouten
Symptoom: de agent reageert extreem traag of geeft 'out of memory' fouten. Dit komt voor op systemen met minder dan 16 GB RAM.
# Gebruik de gecomprimeerde variant
ollama pull llama4:scout-q4_0
# In Flowise: verander Model Name naar:
# llama4:scout-q4_0
# Sluit andere zware applicaties
# Controleer het geheugengebruik:
ollama psProbleem 4: Flowise start niet op (poort al in gebruik)
Symptoom: 'Error: listen EADDRINUSE :::3000' bij het starten van Flowise.
# Bekijk welk proces poort 3000 gebruikt
lsof -i :3000
# Beeindig dat proces (vervang PID met het werkelijke nummer)
kill -9 PID
# Of start Flowise op een andere poort
flowise start --port 3001Probleem 5: PDF wordt niet herkend
Symptoom: de agent antwoordt niet op vragen over je product, of zegt dat er geen informatie beschikbaar is. Waarschijnlijk is de PDF gescand (afbeeldingen) in plaats van tekst-gebaseerd.
Oplossing: gebruik een PDF die echte tekst bevat (niet gescand). Controleer dit door tekst te selecteren in Adobe Reader. Is de PDF gescand? Gebruik dan Adobe Acrobat (OCR), of converteer via een online tool naar een tekst-PDF. Flowise ondersteunt ook platte .txt bestanden: exporteer je productinformatie als tekst als alternatief.
Uitbreidingen: Verder bouwen op je agent
Uitbreiding 1: Meerdere documentbronnen combineren
Voeg meerdere PDF- of tekstbestanden toe aan je chatflow. In Flowise kun je meerdere Document Loader-nodes verbinden met dezelfde Vector Store. Zo kan de agent vragen beantwoorden op basis van je productcatalogus, je FAQ, je retourbeleid, en je handleidingen tegelijk.
Uitbreiding 2: Gespreksgeheugen toevoegen
Standaard heeft de agent geen geheugen van vorige berichten binnen een sessie. Voeg een 'Buffer Memory' node toe en koppel die aan de Conversational Retrieval QA Chain. Nu onthoudt de agent de context van het gesprek: als een klant vraagt 'En de levertijd?' weet de agent over welk product het gaat.
Uitbreiding 3: Koppeling met je CRM of ticketsysteem
Via de Flowise API kun je de agent verbinden met tools als HubSpot, Freshdesk, of Zendesk. Wanneer de agent een vraag niet kan beantwoorden, stuur je automatisch een ticket aan naar je supportteam. Gebruik hiervoor een webhook-node in Flowise of een externe tool zoals Make (voorheen Integromat).
Uitbreiding 4: Meertalige ondersteuning
Llama 4 Scout ondersteunt meerdere talen uitstekend. Voeg een systeemprompt toe aan je ChatOllama-node om de toon en taal te sturen: 'Jij bent een vriendelijke klantenservicemedewerker voor [jouw bedrijf]. Antwoord altijd in het Nederlands, professioneel en to-the-point. Baseer je antwoorden uitsluitend op de beschikbare productinformatie.'
Uitbreiding 5: Productie-setup met Docker
Voor een stabiele productie-omgeving draai je Flowise en Ollama in Docker containers. Zo kun je de agent draaien op een kleine VPS of een Raspberry Pi 5 (met 8 GB RAM).
# docker-compose.yml voor productie
version: '3.8'
services:
ollama:
image: ollama/ollama:latest
ports:
- "11434:11434"
volumes:
- ollama_data:/root/.ollama
restart: unless-stopped
flowise:
image: flowiseai/flowise:latest
ports:
- "3000:3000"
environment:
- FLOWISE_USERNAME=admin
- FLOWISE_PASSWORD=veiligwachtwoord123
- OLLAMA_BASE_URL=http://ollama:11434
volumes:
- flowise_data:/root/.flowise
depends_on:
- ollama
restart: unless-stopped
volumes:
ollama_data:
flowise_data:Meer Docker-configuraties voor Flowise: https://docs.flowiseai.com/getting-started/docker
Conclusie: Jouw eigen AI-agent is live
Je hebt nu een werkende lokale klantvragen-agent die draait op Flowise met Llama 4 Scout via Ollama. De agent beantwoordt vragen op basis van jouw eigen productinformatie, draait volledig lokaal, en is ingebouwd op je website via een iframe of chatbubble widget.
Dit is het fundament. Vanaf hier kun je uitbreiden naar een volledige support-bot, een interne kennisbank, een leadgenerator, of zelfs een autonome agent die taken uitvoert. De architectuur schaalt mee met jouw ambities.
Heb je vragen over deze handleiding of wil je hulp bij een complexere setup? Neem contact op via workflows.nl of stel je vraag in de community.
Flowise GitHub (community en issues): https://github.com/FlowiseAI/Flowise
Ollama documentatie en beschikbare modellen: https://ollama.com/library
