Hoe je betere Prompts schrijft voor lokale AI-modellen
Een lokaal model is geen kleinere kopie van een toonaangevend online gesprekssysteem. Het heeft een korter bruikbaar contextvenster, volgt instructies zwakker en heeft minder geduld voor vage formuleringen. De correcties hieronder zijn de correcties die de uitvoer veranderen op een gewone pc thuis: zet de taak eerst, leg het formaat vast, houd de taak klein, schrijf de prompt in gewone taal, voeg alleen een controle toe als de taak die nodig heeft, en begrens de lengte.
Kant-en-klare versies van deze patronen staan in Beste Prompt-sjablonen voor lokale LLMs. De langere testnotities staan in Wat echt werkt.
1. Zet de instructies vóór de brontekst
Veel lokale modellen wegen het begin van de prompt zwaarder dan het einde. Als je een lang artikel plakt en pas daarna zegt “vat dit samen”, kan het model het artikel voortzetten, alleen de opening samenvatten of een vraag beantwoorden die in de bron stond. Noem eerst de rol, de taak en de regels. Plak daarna de tekst onder een duidelijk label, zoals Tekst:.
Voorbeelden die werken
Tegenvoorbeeld
Waarom het faalt: de instructie komt laat, is kort en is vaag. Het model heeft al “gelezen” alsof het artikel de taak is. “Maak het goed” zegt niet wat goed betekent. Zet een concrete samenvatinstructie op de eerste regels en schrap “maak het goed”.
2. Noem het formaat, niet de sfeer
Woorden als “leuk”, “professioneel” en “inzichtelijk” zijn geen formaat. Een formaat is een aantal, een vorm of een verbod. Lokale modellen volgen aantallen en verboden vaker dan smaak.
Voorbeelden die werken
Tegenvoorbeeld
Waarom het faalt: er is geen lengte, geen aantal punten en geen verbod op een inleiding. Je krijgt vaak een kop, een opgewekte inleiding, vijf ongelijke alinea’s en een “hoop dat dit helpt”. Vervang het door een aantal en een zinlimiet.
3. Vraag om één resultaat
Eén prompt die om een concept, een vertaling, een titellijst en een bijschrift voor sociale media vraagt, is vier taken. Op een klein model vallen de latere taken weg of raken ze vermengd met de eerste. Splits ze. Je kunt ze zelf aan elkaar knopen: neem het concept, begin een nieuwe prompt en vraag alleen om de vertaling.
Voorbeelden die werken
Tegenvoorbeeld
Waarom het faalt: vier uitvoeren, geen lengte, en “wees creatief” vecht met consistentie. Het model schrijft meestal een kort Nederlands bericht en wijst daarna losjes naar de rest. Draai vier prompts, of hooguit twee als je een groter model hebt en de uitvoeren nummert.
4. Schrijf de prompt in eenvoudigere taal dan de uitvoer
Je kunt om een formele memo vragen. De instructies zelf moeten toch korte zinnen zijn. Geneste bijzinnen, gestapelde ontkenningen en jargon in de systeemprompt zijn waar kleinere modellen de draad kwijtraken.
Voorbeelden die werken
Tegenvoorbeeld
Waarom het faalt: de instructie is moeilijker dan de taak. Het model kan het jargon nazeggen of vastlopen in een vaag essay. Zeg voor wie het is, hoe lang het is en wat erin moet.
5. Voeg alleen een zelfcontrole toe bij brosse taken
Een zelfcontrole helpt als de uitvoer aan een vorm moet voldoen: JSON, een vast aantal punten of code zonder proza. Hij helpt niet bij een gewone herschrijving, en op kleine modellen kan het model de controle afdrukken in plaats van het antwoord. Gebruik één regel, aan het eind.
Voorbeelden die werken
Tegenvoorbeeld
Waarom het faalt: de controle is zwaarder dan de taak. Je wilde een briefje. Je krijgt vaak een alinea over redeneren en aan het eind een stijf briefje. Sla voor een verjaardagsbriefje de zelfcontrole over en stel een woordlimiet in.
6. Begrens de lengte in de prompt en in het programma
Lokale modellen dwalen als noch de prompt noch de app een plafond zet. Zet beide. Gebruik in de prompt een aantal woorden of punten. Zet in Ollama, LM Studio of Jan een maximum aantal tokens iets boven dat aantal, zodat het model de laatste zin kan afmaken zonder midden in een woord te worden afgekapt. Als je niet weet hoe lang de prompt zelf is, haal hem door de Token-teller voordat je een lang brondocument plakt.
Voorbeelden die werken
Tegenvoorbeeld
Waarom het faalt: er is geen einde. Een lokaal model blijft algemene tips opsommen tot het het maximum aantal tokens van het programma raakt, vaak met herhaling. Noem het publiek en een lengte: “Geef een thuisgebruiker van een pc 6 back-upstappen, één zin per stap.”
Een kort voor en na
Dit is hetzelfde verzoek. Het eerste is hoe mensen vaak typen. Het tweede is de versie die een 7B-model kan volgen.
Als je een tweede ronde wilt, vraag hetzelfde model dan niet om het “ook mooier te maken” in dezelfde prompt. Begin een nieuwe prompt met de schone notities en één nieuwe instructie.
Wat dit niet oplost
- Een model dat nooit is getraind om de taal te schrijven die je vroeg, wordt niet vloeiend omdat de prompt netjes is.
- Een 3B-model blijft moeite hebben met een lange codebeoordeling. Maak het fragment kleiner of gebruik een groter lokaal model.
- Feiten die het model niet kent, kun je niet afdwingen met een strakker formaat. Vraag het om alleen de tekst te gebruiken die je hebt geplakt.
- Een hoge temperatuur blijft de formulering herschudden, ook als de prompt goed is. Voor herhaalbare taken, zie Hoe je consistente resultaten krijgt van lokale modellen.