社労士事務所のAI活用入門～第２回：３つのキーワード（LLM／プロンプト／RAG）を理解しよう

林雄次（デジタル士業®・資格ソムリエ®）

【編集部より】
生成AIの発達が目まぐるしい現在。社労士事務所ではどう活用できる？本連載では、『社労士事務所のDXマニュアル』（中央経済社）著者で、デジタル士業®×資格ソムリエ®の林雄次先生にやさしく教えていただきます。

第１回はコチラ

キーワード１：LLM──“言葉の予測機”としての生成AIをどう捉えるか

生成AIの心臓部にあるのがLLM（Large Language Model）です。

LLMは、膨大な文章を読み込み、ある文脈の次にどんな言葉が自然に続くかを統計的に予測します。
仕組み自体は単純で、「もっともらしい日本語を即座に組み立てる装置」として働きます。

社労士の実務に落とし込むと、この特徴は“白紙からの書き出し”や“表現の言い換え”“構造化された要約”に非常に向いています。

たとえば、長い通達の要点をA4１枚に抜き出して顧問先向けに書き換える、就業規則の改定理由を簡潔に説明する、助成金の手引を読み解いて前提条件ごとに論点を並べる、といった作業では、
従来は人間が時間をかけてやっていた「整理・下書き」の工程を、LLMが一瞬で肩代わりしてくれます。

ただし、LLMは「結論の正しさ」を保証する仕組みではありません。
生成AIが学んだデータは万能でも最新でもなく、法令名の漢字や条番号、施行期日といった細部の取り違えはもちろん、根本的な間違いも起こり得ます（「ハルシネーション」と呼ばれる）。
しかも、迷ったときに“それっぽく”書いてしまう性質もあるため、丸ごと任せることはできません。

もう１つ大事なのは、LLMには「一度に理解・保持できる文量（コンテキスト）」の上限があることです。

何百ページもの就業規則集をそのまま突っ込んでも、すべてを同時に参照できるわけではなく、重要箇所が抜け落ちる可能性があります。

このため、LLMは“高速な書記官”として前工程を加速させ、最後には人間が根拠を照合し、判断を下すという役割分担が前提になります。

この割り切りができると、LLMの価値は一気にクリアになります。

キーワード２：プロンプト──指示文が“品質の半分”を決める

LLMに渡す指示文がプロンプトです。

プロンプトは単なる質問ではなく、仕事の依頼書であり、出力品質の半分はここで決まる、と考えたほうがよいでしょう。
よいプロンプトは、役割、対象読者、目的、前提条件、制約、そして出力形式の６つが自然に織り込まれています。

たとえば「あなたは日本の社会保険労務士のアシスタントです」と役割を明示し、「対象は従業員300名の製造業の管理職」「目的は20XX年施行の改正点をA4一枚に整理して初期対応を明確にする」と読者とゴールを据え、「断定は避け最終判断は専門家が行うと記載」「根拠条文・通達の見出しを列挙」と制約を添えます。
仕上げに「見出し→三つの要点→誰に何が起きるか→初期対応チェック→注意事項」という出力の骨組みを指定すれば、たたき台としてすぐ検討に入れる形が出てきます。

プロンプトが重要という背景にあるのは、人間が“何を求めているか”を言語化するプロセス自体が品質を押し上げるという事実です。
曖昧な目的や想定読者の不在、禁止事項の未指定は、LLMに責任を押し付けているのと同じで、結果は“それっぽいけど使えない”原稿になります。

逆に、所内で共通のプロンプト雛形を持ち、業種や規模、労使の状況、期待する文体、必ず出してほしい根拠の出典名などをパラメータとして埋める運用に切り替えると、誰が触っても８割型は合格ラインに乗るようになります。

プロンプトは“ルールを押し込める容器”とも言えます。

個人情報は匿名化または仮名化する、顧問先固有の未公開情報は生成AIに学習されない環境でのみ扱う、断定を避けて代替案やリスクを並べる、といったガードレールを文章の形で最初から埋め込んでしまえば、安全に利用できます。

また文体が冗長になりがちなモデルには「A4１枚、600〜700字程度」や「平易語に置き換える」といった“長さと言い回し”の指定が効きますし、確認作業を楽にするには「最後に参照した資料名と公開日を列挙」と締めくくりを定義しておくのが効果的です。

プロンプトは、書き手の思考の輪郭を外部化する道具──この感覚が一度つかめると、以降のやり取り全体が安定するでしょう。

キーワード３：RAG──“所内標準”と最新情報を回答に結びつける

RAG（Retrieval-Augmented Generation）は、LLMの出力に“根拠資料の検索結果”を合流させる手法です。

イメージとしては、まず所内のナレッジ（就業規則の最新テンプレ、過去の顧問先レター、所内Q&A、実務解説メモ、判例要旨、法改正の社内整理表など）を小さな断片に分割して、意味が近い文同士を見つけやすくする「索引」を作り、質問のたびに該当断片を引き当ててから、その断片を材料にLLMが文を組み立てる、という流れになります。

これにより、モデルが学習時点の古い一般知識だけに頼るのではなく、あなたの事務所が採用している“所内標準”と最新の根拠資料を土台に語れるようになります。
たとえば「2025年の育児介護休業法改正について、管理職向けの周知文を作りたい」という依頼に対して、RAGはまず所内の「改正点まとめ」「就業規則改定ガイド」「管理職向けFAQ」の断片を検索で取り出し、それらを引用しながら文書を組み立てます。
結果として、“所内で使っている用語や手順”に沿った原稿が初稿から出てくるため、後工程の修正コストが大きく下がります。

この仕組みが真価を発揮するには、裏側の整備が肝心です。

資料は章や条文単位に“過不足なく”分割され、施行日や条番号、対象者、文書の版といったメタデータが付いているほど検索の命中率が上がります。

改定のたびに版を更新し、古い版は検索から外すか、明確に「参考」のラベルをつけておくと、誤引用を防げます。

アクセス権限も重要で、顧問先Aに固有の規程や交渉経緯メモが顧問先Bの案件に混ざらないよう、フォルダやタグで区切り、検索時に参照範囲を制御します。

回答側には、どの資料のどの断片を参照したかを明かす“出典表示”を同時に添えさせると、レビューの速度と信頼性が一段と上がります。

おわりに──３つが揃って社労士事務所の効率化につながる

まとめると、LLMは言葉を高速に整えるエンジン、プロンプトはそのエンジンに仕事の仕様を伝える依頼書、RAGは依頼通りに走らせるための地図と燃料です。

下書きと論点整理を加速させるのがLLM、目的・前提・制約・出力の型を言語化して品質を担保するのがプロンプト、そして所内の標準と最新の根拠を回答に結びつけるのがRAG。
三者がそろうと、社労士事務所の“書く・まとめる・伝える”が体系的に速く、しかも安全に回り始めます。

次にやるべきことは、この３点の理解を所内の運用に落とし込むことです。

具体的には、代表的なユースケース（顧問先へのレター、通達の要約、規程改正の叩き台、助成金候補抽出、研修スライドの章立てなど）について、プロンプト雛形とRAGの参照範囲を決め、レビューと版管理の手順を簡単に使えるよう運用表にまとめる。

そこまで整えてしまえば、あとは回数を重ねるほどに、出力のばらつきが減り、専門家としての判断に時間を注げる体制が育っていくはずです。

【プロフィール】
林雄次（はやし・ゆうじ）

はやし総合支援務所代表。IT関連企業に勤務後、「はやし総合支援事務所」開業。中小企業診断士、社労士、行政書士、情報処理安全確保支援士等として企業向け支援を行いつつ、「資格ソムリエⓇ」「デジタル士業Ⓡ」としてさまざまなメディアで活躍中。僧侶の資格も持つ。保有資格・検定は約600を超える。著書に『社労士事務所のDXマニュアル』（中央経済社）、『資格が教えてくれたこと 400の資格をもつ社労士がみつけた学び方・活かし方・選び方』（日本法令）、『かけ合わせとつながりで稼ぐ　資格のかけ算大全』（実務教育出版）など。