Sådan skriver du bedre Prompts til lokale AI-modeller
En lokal model er ikke en mindre kopi af et stort samtaleprogram i skyen. Den har et kortere brugbart kontekstvindue, svagere instruktionsfølge og mindre tålmodighed med tvetydige formuleringer. Rettelserne nedenfor er dem, der ændrer resultatet på en almindelig hjemme-pc: sæt opgaven først, lås formatet, hold opgaven lille, skriv Prompten i klart sprog, tilføj kun et tjek når opgaven kræver det, og sæt et loft på længden.
Versioner, du kan kopiere, ligger i Bedste Prompt-skabeloner til lokale LLM'er. De længere testnoter ligger i Hvad der faktisk virker.
1. Sæt instruktionerne før kildeteksten
Mange lokale modeller vægter starten af Prompten tungere end slutningen. Hvis du indsætter en lang artikel og først bagefter siger “opsummér det her”, kan modellen fortsætte artiklen, kun opsummere åbningen eller svare på et spørgsmål, der stod inde i kilden. Angiv rollen, opgaven og reglerne først. Indsæt derefter teksten under en tydelig etiket som Tekst:.
Eksempler, der virker
Modeksempel
Hvorfor det fejler: instruktionen kommer sent, er kort og er vag. Modellen har allerede “læst”, som om artiklen er opgaven. “Gør det godt” siger ikke, hvad godt betyder. Flyt en konkret opsummeringsinstruktion op i de første linjer, og slet “gør det godt”.
2. Navngiv formatet, ikke stemningen
Ord som “pænt”, “professionelt” og “indsigtsfuldt” er ikke et format. Et format er et antal, en form eller et forbud. Lokale modeller følger antal og forbud oftere, end de følger smag.
Eksempler, der virker
Modeksempel
Hvorfor det fejler: der er ingen længde, intet antal punkter og intet forbud mod en indledning. Du får ofte en overskrift, en kæk indledning, fem ujævne afsnit og et “håber det hjælper”. Erstat det med et antal og en sætningsgrænse.
3. Bed om ét resultat
Én Prompt, der beder om et udkast, en oversættelse, en titelliste og en billedtekst til sociale medier, er fire opgaver. På en lille model bliver de senere opgaver droppet eller blandet ind i den første. Del dem. Du kan selv kæde dem: tag udkastet, start en ny Prompt, og bed kun om oversættelsen.
Eksempler, der virker
Modeksempel
Hvorfor det fejler: fire resultater, ingen længde, og “vær kreativ” kæmper mod ensartethed. Modellen skriver som regel et kort dansk indlæg og vifter så løst ad resten. Kør fire Prompts, eller højst to, hvis du har en større model og nummererer resultaterne.
4. Skriv Prompten i et enklere sprog end resultatet
Du kan bede om et formelt notat. Selve instruktionerne skal stadig være korte sætninger. Indlejrede ledsætninger, stablede nægtelser og jargon i system-Prompten er der, hvor mindre modeller taber tråden.
Eksempler, der virker
Modeksempel
Hvorfor det fejler: instruktionen er sværere end opgaven. Modellen kan gentage jargonen eller fryse fast i et vagt essay. Sig, hvem det er til, hvor langt det er, og hvad der skal med.
5. Tilføj kun et selvtjek til skrøbelige opgaver
Et selvtjek hjælper, når resultatet skal matche en form: JSON, et fast antal punkter eller kode, der ikke må indeholde prosa. Det hjælper ikke en løs omskrivning, og på små modeller kan det få modellen til at udskrive tjekket i stedet for svaret. Brug én linje til sidst.
Eksempler, der virker
Modeksempel
Hvorfor det fejler: tjekket er tungere end opgaven. Du ville have en hilsen. Du får ofte et afsnit om ræsonnement og en stiv hilsen til sidst. Til en fødselsdagshilsen: spring selvtjekket over, og sæt en ordgrænse i stedet.
6. Sæt loft på længden i Prompten og i programmet
Lokale modeller vrøvler, når hverken Prompten eller programmet sætter et loft. Sæt begge dele. I Prompten: brug et ordantal eller et antal punkter. I Ollama, LM Studio eller Jan: sæt en maks. Token-grænse lidt over det antal, så modellen kan gøre den sidste sætning færdig uden at blive klippet midt i et ord. Hvis du er usikker på, hvor lang selve Prompten er, så kør den gennem Token-tælleren, før du indsætter et langt kildedokument.
Eksempler, der virker
Modeksempel
Hvorfor det fejler: der er ingen slutning. En lokal model bliver ved med at liste generelle tips, indtil den rammer programmets maks. Tokens, og den gentager ofte sig selv. Navngiv målgruppen og en længde: “Giv en hjemme-pc-bruger 6 backuptrin, én sætning hver.”
Et kort før og efter
Det er den samme anmodning. Den første er, som folk ofte skriver. Den anden er den version, en 7B-model kan følge.
Hvis du vil have en anden gennemgang, så bed ikke den samme model om også at “gøre det pænere” i den samme Prompt. Start en ny Prompt med de rensede noter og én ny instruktion.
Det her retter ikke
- En model, der aldrig er trænet til at skrive det sprog, du bad om, bliver ikke flydende, bare fordi Prompten er ryddelig.
- En 3B-model vil stadig have det svært med lang kodegennemgang. Gør uddraget mindre, eller brug en større lokal model.
- Fakta, som modellen ikke kender, kan ikke tvinges frem med et strammere format. Bed den om kun at bruge den tekst, du har indsat.
- En høj temperatur (temperature) bliver ved med at omrokere formuleringerne, også når Prompten er god. Til opgaver, der skal kunne gentages, se Sådan får du ensartede resultater fra lokale modeller.