ローカルAIモデル向けのより良いプロンプトの書き方
ローカルモデルは、最先端のチャット製品を小さくした複製ではありません。役に立つ文脈はより短く、指示への追従は弱く、あいまいな言い方への我慢は少ないです。下の直しは、普通の自宅PCで出力を変えるものです。作業を先に置き、形式を固定し、作業を小さく保ち、プロンプトを平易な言葉で書き、点検が必要な作業にだけ点検を足し、長さを上限で止めます。
これらの型をすぐコピーできる版は ローカルLLM向け最高のプロンプトテンプレートにあります。より長い試験メモは 実際に効くことにあります。
1. 指示を原文より前に置く
多くのローカルモデルは、プロンプトの終わりより始まりを重く見ます。長い記事を貼ってから「要約してください」と言うと、モデルは記事を続けたり、書き出しだけを要約したり、原文の中にあった質問に答えたりします。役割、作業、ルールを先に書いてください。そのあと 本文: のような明確なラベルの下にテキストを貼ります。
効く例
反例
失敗する理由: 指示が遅く、短く、曖昧です。モデルはすでに、記事そのものかのように「読んで」います。「良くしてください」は、良いとは何かを言いません。具体的な要約の指示を最初の行へ移し、「良くしてください」は消してください。
2. 雰囲気ではなく形式に名前を付ける
「良い」「プロらしい」「洞察に富む」のような言葉は形式ではありません。形式は個数、形、または禁止です。ローカルモデルは趣味より、個数と禁止に従うことが多いです。
効く例
反例
失敗する理由: 長さもなく、要点の数もなく、前置きの禁止もありません。見出し、元気な前置き、不揃いな段落五つ、「お役に立てれば幸いです」がよく出ます。個数と文の上限に置き換えてください。
3. 成果物は一つだけ頼む
下書き、翻訳、タイトル一覧、ソーシャルのキャプションを一つのプロンプトで頼むと、作業は四つです。小さいモデルでは、あとの作業が落ちるか、最初の作業に混ざります。分けてください。自分でつなぐことはできます。下書きを受け取り、新しいプロンプトを始め、翻訳だけを頼んでください。
効く例
反例
失敗する理由: 出力が四つで、長さがなく、「創造的に」が一貫性とぶつかります。モデルはたいてい短い英語の記事を書き、残りはおおざっぱに示すだけです。プロンプトを四つに分けるか、より大きいモデルがあり出力に番号を付けるなら、多くても二つまでにしてください。
4. プロンプトは出力より簡単な言葉で書く
改まったメモを頼むことはできます。指示そのものは、それでも短い文であるべきです。入れ子の節、重なった否定、システムプロンプトの中の専門語で、小さいモデルは筋を失います。
効く例
反例
失敗する理由: 指示が作業より難しいです。モデルは専門語をオウム返しにするか、曖昧な作文で固まることがあります。誰のためか、どれだけ長いか、何を含めるかを言ってください。
5. 壊れやすい作業にだけ自己点検を足す
出力が形と一致しなければならないときに、自己点検は役立ちます。JSON、固定した箇条書きの数、散文を含んではいけないコード。気軽な書き換えには役立ちませんし、小さいモデルでは答えの代わりに点検を印刷させることがあります。一行だけ、最後に置いてください。
効く例
反例
失敗する理由: 点検が作業より重いです。欲しかったのは手紙です。推論についての段落と、最後に硬い手紙がよく出ます。誕生日の手紙なら、自己点検は省き、語数の上限を置いてください。
6. プロンプトと実行環境の両方で長さを上限にする
プロンプトもアプリも天井を置かないと、ローカルモデルは脱線して長くなります。両方を設定してください。プロンプトでは語数か箇条書きの数を使います。Ollama、LM Studio、Jan では、その数より少し上に最大トークンを置き、最後の文が語の途中で切れずに終わるようにします。プロンプト自体の長さが不安なら、長い原文を貼る前に トークンカウンターに通してください。
効く例
反例
失敗する理由: 終わりがありません。ローカルモデルは実行環境の最大トークンに当たるまで一般的なコツを列挙し、しばしば繰り返します。読者と長さを書いてください。「自宅PCの利用者に、バックアップの手順を6つ、それぞれ一文でください。」
短い変更前と変更後
同じ依頼です。一つ目は人がよく打つ書き方で、二つ目は 7B モデルが追える版です。
もう一度整えたいなら、同じプロンプトで「もっと良くもしてください」と同じモデルに頼まないでください。整えたメモと、新しい指示一つだけを入れた新しいプロンプトを始めてください。
これでは直らないこと
- 頼んだ言語を書くよう訓練されていないモデルは、プロンプトが整っていても流暢にはなりません。
- 3B モデルは長いコードの見直しで、なお苦労します。断片を縮めるか、より大きいローカルモデルを使ってください。
- モデルが知らない事実は、より厳しい形式では強制できません。貼った本文だけを使うよう頼んでください。
- 温度が高いと、プロンプトが良くても言い回しは入れ替わり続けます。繰り返す作業は ローカルモデルから安定した結果を得る方法を見てください。