まず業務への影響度を分ける

最初に確認するのはAIの回答の内容ではなく、その回答を誤って使った場合に業務へどの程度影響するかです。影響度に応じて、確認の深さと承認者を変えます。

たとえば、社内会議の議事録を読みやすく整える作業と、顧客への契約条件を説明する文書では、同じ確認方法にはできません。前者は担当者の確認で進められる場合がありますが、後者は契約内容を理解している責任者の確認が必要です。

回答の根拠と事実関係を確認する

生成AIの回答は、自然な文章でも正しいとは限りません。回答文の読みやすさではなく、原資料と照合できるかを確認します。

生成AIが事実と異なる内容をもっともらしく示すことを、ハルシネーションと呼びます。業務で使う場合は、回答に含まれる会社名、日付、金額、制度名、引用、計算結果などを個別に確認してください。

確認できない情報は、回答から削除するか、担当者が追加調査してから使います。特に外部へ提出する文書では、AIの回答を根拠にせず、元資料を根拠として扱うことが重要です。

入力情報と機密性を確認する

回答の確認だけでなく、AIに何を入力したかも確認対象です。入力した情報に機密情報や個人情報が含まれていないか、利用するサービスの社内ルールに沿っているかを確認します。

機密情報とは、社外に知られると取引や経営に影響する情報です。顧客名簿、未公開の契約条件、原価、従業員の評価情報、認証情報などが該当する場合があります。具体的に何を機密情報と扱うかは、自社の規程や契約内容に基づいて決めます。

判断に迷う情報は、入力する前に責任者へ確認します。情報を匿名化しても、複数の情報を組み合わせることで個人や取引先が推測できる場合があるため、置き換えれば常に問題がなくなるとは限りません。

人による確認と承認の流れを決める

AIの回答を使うかどうかをAI自身に任せず、業務を理解する担当者が最終判断する流れを決めます。担当者が確認する項目を具体化すると、確認漏れを減らしやすくなります。

中小企業では、AI担当の専門部署を置かず、各部門の担当者が利用するケースもあります。その場合は、利用者ごとに判断させるのではなく、最低限の共通ルールを1枚にまとめておくと運用しやすくなります。

すべての業務で複数人の承認が必要とは限りません。影響度の低い作業は担当者確認、高い作業は責任者承認というように、業務ごとに段階を分けると現場で続けやすくなります。

確認結果を記録し、運用を見直す

確認手順は、作っただけでは定着しません。どの業務で、誰が、何を確認したかを残し、実際のつまずきをもとにルールを更新します。

記録は大がかりなシステムでなくても構いません。業務名、利用日、利用者、入力情報の種類、確認者、修正内容、最終判断を表にまとめるだけでも、運用状況を把握しやすくなります。