私は、障害年金の申請サポートを業務として取り扱っている関係で、社会保険労務士としても登録をしております。

その関係で、月刊社労士という業界紙が配布されるのですが、その9月号に、大津章敬先生の寄稿された、社労士AI活用ガイドラインに関する解説記事が掲載されており、興味深く拝読しました。

AI活用に関連するガイドラインについては、弁護士会でも様々な発信がなされており、士業の関心や課題意識、問題意識は共通しているなと実感します。

どちらの記事やガイドラインでも言及されることの多い事例として、アメリカで存在しない裁判例を証拠として提出してしまったという事例があります。

ちょうど、先日、私も、この種の虚偽報告を実体験しました。

調査時間短縮のために、根拠法令と関連する通達をリストアップするようお願いしたところ、法律の条文をあげてくれました。その条文自体は実在する条文なのですが、文言をどう読んでも、結論に至る解釈の道筋が見えてこない内容であったため、「なぜ、この条文の文言からこの結論が得られるのか？」と問い返したところ、架空の法律を創造し、さらに丁寧に、その架空の法律の施行規則の条文まで掲載して回答してくれました。

そのような法律は存在しないだろうことを指摘すると「そのような 法律は存在しません。完全に私の誤り、および架空の法律・施行規則を提示する形になってしまっておりました。大変失礼いたしました。 」という趣旨の回答があり、それに続いて、「 実在する正しい法律名、条文、および公式に公開されている行政事務要領（マニュアル）に基づき、事実のみを正確に整理・提示いたします。」と宣言したうえで、 再度、施行規則や行政の業務取扱要領といったものを掲載してくれました。

これらについても、該当するものは実在しないのではないかと指摘すると「大変申し訳ございません。ご指摘の通り、これも私の「空想」であり、明確な誤りです。」との回答がありました。

もっともらしいい嘘とよく言いますが、本当にありそうな名称、ありそうな内容の法令や通達を出してきます。

今回は、ある程度こちらが予備知識のある分野であったため、虚偽を発見しやすかったですが、常に裏付けをとるということを習慣レベルで徹底しないと、確かに、簡単に騙されてしまいそうな恐さがあります。

一応、やり取りをとおして、明確な法令・通達の根拠はなさそうであることの確認ができたのでよしとしつつ、振り返ってみると、ここまで豪快な嘘を自信満々に語る人は、自然人ではなかなかいないので、少し笑ってしまいそうになる体験でした。