生成AIに通達の取り扱いを尋ねたら、条文番号まで添えた分かりやすい答えが返ってきた。そのまま顧問先への回答に使いたくなりますが、その条文番号は本当に存在するでしょうか。

生成AIは、事実と異なる内容を自然な文章で答えることがあります。この記事では、生成AIの回答を業務で使う前に、どこを何で確かめればよいかを手順として整理します。事務所や社内で確認のルールを決めるときのたたき台としてお使いください。

結論：用途を分け、原典と元資料で確かめ、最後は人が責任を持つ

生成AIの回答を業務で使う前の確認は、次の4つのステップで進めます。

  1. 用途に応じて、確認の深さを決める

    推敲・要約・調べもの・顧問先に出す文書など、何に使うかで確認の深さを変えます。すべてを同じ重さで確認する必要はありません。

  2. 条文・通達・判例は原典で確かめる

    回答に出てきた条文番号・通達名・判例は、e-Gov法令検索・国税庁の法令解釈通達・裁判所の裁判例検索で、実在するか、同じことが書かれているかを確かめます。

  3. 数字は元の資料と突き合わせる

    要約や表を作らせた場合は、金額・日付・割合を元の資料と1つずつ照合します。

  4. 最新か、事案に当てはまるかを担当者が判断する

    改正の有無と施行日を確かめ、目の前の事案に当てはまるかを担当者が判断してから使います。

なぜ確認が必要なのか

事実と異なる内容を、生成AIがもっともらしく答える。この現象がハルシネーションです。生成AIは、もっともらしい文章を確率的に組み立てる仕組みのため、存在しない条文番号や資料名が、正しい情報と同じ調子で示されることがあります。

公的な資料も、この点に注意を促しています。個人情報保護委員会は2023年6月2日の「生成AIサービスの利用に関する注意喚起等」で、一般の利用者に向けて、生成AIの応答結果には不正確な内容が含まれることがあると指摘しています。総務省・経済産業省の「AI事業者ガイドライン（第1.1版）」も、AI利用者が重視すべき事項として、AIの出力の精度とリスクの程度を理解し、リスク要因を確認したうえで利用することを挙げています。

想定ケース：名称と時期まで添えられた回答

以下は想定ケースで、実在の回答や団体の事例ではありません。

ある事務所の職員が、業界団体が出している生成AIの指針を調べるため、検索サービスのAI要約を使ったとします。返ってきたのは「〇〇会の委員会が2026年9月に『AI活用ガイドライン』を策定した」という、団体名・資料名・時期までそろった答えでした。

ところが、その団体のウェブサイトで委員会の資料一覧を開いても、該当する資料は見当たりません。名称と時期が具体的に示されていても、発信元で確かめるまでは事実として扱えない。ハルシネーションは、このように「確認したくなくなるほど具体的な形」で現れることがあります。

用途に応じて、確認の深さを決める

すべての回答を同じように確認しようとすると、生成AIを使う意味が薄れます。用途ごとに、誤りがあったときの影響と確認の深さを決めておくと、職員も迷わずに済みます。以下は一例です。

用途誤りの影響確認の深さ
自分で書いた文章の推敲・言い換え小さい意味が変わっていないかを読み直す
会議メモや資料の要約中くらい数字・固有名詞・結論を元の資料と照合する
条文・通達・判例を含む調べもの大きい回答に出てきた根拠をすべて原典で確かめる
顧問先・取引先に出す文書大きい原典と元資料で確かめたうえで、担当者が内容を確認して事務所として出す

迷ったときは、「この回答が間違っていたら、誰が困るか」を考えると判断しやすくなります。社外の人が困るなら、確認は深いほうに倒します。

条文・通達・判例を原典で確かめる

調べものに生成AIを使った場合、回答に出てきた根拠は、それぞれ次の公的なサイトで確かめます。

確かめるもの確かめる場所見るポイント
法律・政令・省令の条文e-Gov法令検索（デジタル庁）条文番号が実在するか、文言が回答と一致するか、施行日
国税の取り扱い国税庁「法令解釈通達」、タックスアンサー通達の番号と本文、最新の改正日
判例・裁判例裁判所「裁判例検索」事件番号・裁判年月日、判示の内容

確かめるときは、番号が存在するかだけでなく、そこに回答と同じことが書かれているかまで読みます。番号は実在していても、内容が別の条文と取り違えられていることがあるためです。

数字を元の資料と突き合わせる

会議資料の要約や、決算書の数字を表にまとめる作業を生成AIに頼んだ場合は、数字の照合が欠かせません。桁の誤り、別の年度の数字の混入、合計が合わないといった誤りは、文章が自然なほど見落としやすくなります。

照合は、要約後の数字を1つずつ元の資料で探す方法が確実です。件数が多い場合は、合計値や前年との差額など、検算しやすい数字から先に確かめると、誤りに早く気づけます。

最新か、事案に当てはまるかを判断する

条文や通達が実在していても、改正前の内容をもとに答えている場合があります。e-Gov法令検索では施行日を、国税庁の法令解釈通達では最新の改正日を確かめてください。

最後に、その回答が目の前の事案に当てはまるかは、担当者にしか判断できません。生成AIの回答は下書きや調べものの出発点として使い、顧問先に出す結論は、担当者が根拠を確かめたうえで事務所の責任で示す。この役割分担を、事務所のルールとして明文化しておくことをおすすめします。ルールづくり全体の考え方は「税理士・会計事務所が生成AIを使う前に決めておきたい5つのルール」で、入力してよい情報の判断は「生成AIに顧問先の情報を入力してよいか」で整理しています。

よくあるつまずき

確認の手順を決めても、運用の中でつまずきやすい点があります。

ひとつは、回答の文章が丁寧で具体的なほど、確認を省きたくなることです。具体的な番号や名称は正確さの証拠にはなりません。先ほどの想定ケースのように、名称と時期まで添えられた回答でも、発信元に存在しないことがあります。

もうひとつは、確認したかどうかが後から分からなくなることです。顧問先に出す文書については、確認した原典（条文番号・通達名・URL）と確認日を、案件管理表の備考欄などに残しておくと、後から説明を求められたときにも対応できます。

まとめ：生成AIは出発点、根拠は原典で

生成AIの回答を業務で使う前には、用途に応じて確認の深さを決め、条文・通達・判例は原典で、数字は元の資料で確かめ、最新かどうかと事案への当てはめを担当者が判断します。

生成AIは、調べものや下書きの時間を短くできる道具です。一方で、もっともらしい誤りを含むことがあるという性質は、公的な資料でも繰り返し指摘されています。回答を出発点として使い、根拠は原典で確かめる。この手順を事務所や社内で共有しておくことが、生成AIを安心して業務に使うための土台になります。