So schreiben Sie bessere Prompts für lokale KI-Modelle
Ein lokales Modell ist keine kleinere Kopie eines großen gehosteten Chat-Produkts. Es hat einen kürzeren nutzbaren Kontext, folgt Anweisungen schwächer und hat weniger Geduld mit mehrdeutigen Formulierungen. Die Korrekturen unten sind die, die die Ausgabe auf einem normalen Heim-PC ändern: stellen Sie die Aufgabe nach vorn, legen Sie das Format fest, halten Sie die Aufgabe klein, schreiben Sie den Prompt in klarer Sprache, ergänzen Sie eine Prüfung nur, wenn die Aufgabe sie braucht, und begrenzen Sie die Länge.
Kopierfertige Fassungen dieser Muster stehen in Beste Prompt-Vorlagen für lokale LLMs. Die längeren Testnotizen stehen in Was wirklich funktioniert.
1. Setzen Sie die Anweisungen vor den Quelltext
Viele lokale Modelle gewichten den Anfang des Prompts stärker als das Ende. Wenn Sie einen langen Artikel einfügen und erst danach „fassen Sie das zusammen“ sagen, kann das Modell den Artikel fortsetzen, nur den Anfang zusammenfassen oder eine Frage beantworten, die im Quelltext stand. Nennen Sie zuerst Rolle, Aufgabe und Regeln. Fügen Sie den Text dann unter einer klaren Beschriftung wie Text: ein.
Beispiele, die funktionieren
Gegenbeispiel
Warum es scheitert: Die Anweisung kommt spät, ist kurz und vage. Das Modell hat schon „gelesen“, als wäre der Artikel die Aufgabe. „Machen Sie es gut“ sagt nicht, was gut bedeutet. Setzen Sie eine konkrete Zusammenfassungsanweisung in die ersten Zeilen und streichen Sie „machen Sie es gut“.
2. Nennen Sie das Format, nicht die Stimmung
Wörter wie „schön“, „professionell“ und „aufschlussreich“ sind kein Format. Ein Format ist eine Zahl, eine Form oder ein Verbot. Lokale Modelle folgen Zahlen und Verboten öfter als dem Geschmack.
Beispiele, die funktionieren
Gegenbeispiel
Warum es scheitert: Es gibt keine Länge, keine Zahl von Punkten und kein Verbot einer Einleitung. Sie bekommen oft eine Überschrift, eine muntere Einleitung, fünf ungleiche Absätze und ein „Ich hoffe, das hilft“. Ersetzen Sie das durch eine Zahl und eine Satzgrenze.
3. Verlangen Sie ein Ergebnis
Ein einzelner Prompt, der einen Entwurf, eine Übersetzung, eine Titelliste und eine Bildunterschrift für soziale Medien verlangt, sind vier Aufgaben. Auf einem kleinen Modell fallen die späteren Aufgaben weg oder vermischen sich mit der ersten. Trennen Sie sie. Sie können sie selbst verketten: nehmen Sie den Entwurf, starten Sie einen neuen Prompt und verlangen Sie nur die Übersetzung.
Beispiele, die funktionieren
Gegenbeispiel
Warum es scheitert: vier Ausgaben, keine Länge, und „seien Sie kreativ“ arbeitet gegen Beständigkeit. Das Modell schreibt meist einen kurzen deutschen Beitrag und deutet den Rest nur an. Führen Sie vier Prompts aus, oder höchstens zwei, wenn Sie ein größeres Modell haben und die Ausgaben nummerieren.
4. Schreiben Sie den Prompt in einfacherer Sprache als die Ausgabe
Sie können ein formelles Memo verlangen. Die Anweisungen selbst sollten trotzdem kurze Sätze sein. Verschachtelte Nebensätze, gestapelte Verneinungen und Fachjargon im System-Prompt sind die Stellen, an denen kleinere Modelle den Faden verlieren.
Beispiele, die funktionieren
Gegenbeispiel
Warum es scheitert: Die Anweisung ist schwerer als die Aufgabe. Das Modell kann den Jargon nachsprechen oder in einem vagen Aufsatz erstarren. Sagen Sie, für wen es ist, wie lang es ist und was hineingehört.
5. Ergänzen Sie eine Selbstprüfung nur bei spröden Aufgaben
Eine Selbstprüfung hilft, wenn die Ausgabe einer Form entsprechen muss: JSON, eine feste Zahl von Aufzählungspunkten oder Code, der keinen Fließtext enthalten soll. Sie hilft nicht bei einem lockeren Umschreiben, und auf kleinen Modellen kann sie das Modell die Prüfung ausgeben lassen statt der Antwort. Nutzen Sie eine Zeile, am Ende.
Beispiele, die funktionieren
Gegenbeispiel
Warum es scheitert: Die Prüfung ist schwerer als die Aufgabe. Sie wollten eine Notiz. Sie bekommen oft einen Absatz über das Nachdenken und am Ende eine steife Notiz. Lassen Sie bei einer Geburtstagsnotiz die Selbstprüfung weg und setzen Sie stattdessen ein Wortlimit.
6. Begrenzen Sie die Länge im Prompt und im Programm
Lokale Modelle schweifen aus, wenn weder der Prompt noch die App eine Obergrenze setzt. Setzen Sie beide. Nutzen Sie im Prompt eine Wortzahl oder eine Zahl von Aufzählungspunkten. Setzen Sie in Ollama, LM Studio oder Jan ein maximales Token-Limit etwas über dieser Zahl, damit das Modell den letzten Satz beenden kann, ohne mitten im Wort abgeschnitten zu werden. Wenn Sie nicht sicher sind, wie lang der Prompt selbst ist, lassen Sie ihn durch den Token-Zähler laufen, bevor Sie ein langes Quelldokument einfügen.
Beispiele, die funktionieren
Gegenbeispiel
Warum es scheitert: Es gibt kein Ende. Ein lokales Modell listet allgemeine Tipps auf, bis es das maximale Token-Limit des Programms erreicht, und wiederholt sich oft. Nennen Sie das Publikum und eine Länge: „Geben Sie einer Person am Heim-PC 6 Schritte zur Sicherung, je einen Satz.“
Ein kurzes Vorher und Nachher
Das ist dieselbe Bitte. Die erste ist so, wie Menschen oft tippen. Die zweite ist die Fassung, der ein 7B-Modell folgen kann.
Wenn Sie einen zweiten Durchgang wollen, bitten Sie dasselbe Modell im selben Prompt nicht, es „außerdem schöner zu machen“. Starten Sie einen neuen Prompt mit den bereinigten Notizen und einer einzigen neuen Anweisung.
Was das nicht behebt
- Ein Modell, das nie darauf trainiert wurde, die verlangte Sprache zu schreiben, wird nicht flüssig, nur weil der Prompt ordentlich ist.
- Ein 3B-Modell wird mit einer langen Codeprüfung weiter kämpfen. Kürzen Sie den Ausschnitt oder nutzen Sie ein größeres lokales Modell.
- Fakten, die das Modell nicht kennt, lassen sich durch ein strengeres Format nicht erzwingen. Bitten Sie es, nur den Text zu nutzen, den Sie eingefügt haben.
- Eine hohe Temperatur (temperature) mischt die Formulierung weiter neu, auch wenn der Prompt gut ist. Für wiederholbare Aufgaben siehe So erhalten Sie gleichbleibende Ergebnisse von lokalen Modellen.