AIに文書を書かせるとき、書かせてはいけないもの——「捏造ゼロ設計」の考え方

報告書・評価書・提案書。書式の決まった専門文書の下書きをAIに任せると、作成時間は劇的に縮みます。ただし一つだけ、絶対に越えてはいけない一線があります。それは、AIが事実でないことを「もっともらしく」書いてしまうことです。

生成AIは「空欄を埋めたがる」

生成AIの性質として、根拠が無くても文章の流れに合う数値や記述を作り出してしまうことがあります。一般の文章なら笑い話で済みますが、専門文書で数値や判断が捏造されると、文書全体の信頼が崩れます。「AIで下書き」を業務に組み込むなら、この性質を前提にした設計が必要です。

原則：書ける部分と書かせない部分を「仕様で」分ける

私たちが専門文書の自動生成システムを作るときの原則はこうです。①公開情報や提供資料から客観的に書ける部分（地域の記述、資料からの転記、書式・体裁）は、AIが全力で書き切る。②専門家の判断が必要な部分（評価、数値の決定、結論）は、AIに埋めさせず空欄のまま残す。これを運用ルールではなくシステムの仕様として実装します。「気をつけて使う」は続きませんが、仕様なら破れません。

空欄は「要確認」の一覧にする

空欄のまま残した判断箇所には「要確認」の印を付け、文書全体でどこに何箇所あるかを一覧にします。すると専門家の仕事は「ゼロから書く」から「確認して埋める」に変わります。実際の案件では、要確認箇所が150以上あっても、下書きの土台があるだけで作業の質が変わりました。速くなるだけでなく、確認すべき場所が明示されることで、見落としも減ります。

「AIに全部書かせない」ことが品質になる

AI活用の提案で「全部自動でできます」という説明を聞いたら、少し疑ってください。専門的な判断を伴う業務でAIが担うべきなのは、判断の代行ではなく、判断の前後にある作業(調べる・整える・転記する・一覧化する)です。この線引きが明確なシステムほど、現場で長く使われます。

時間を縮めることと、信頼を守ること。この両立は「AIをどこまで使うか」ではなく「AIにどこを使わせないか」の設計で決まります。