AI監査証跡の 設計|後から 説明できる 記録術
本記事のFDEは、Full Disk Encryption(全ディスク暗号化)ではなく、顧客の現場に入り込んで技術とビジネスの両面から課題を解く職種、Forward Deployed Engineerを指します。AI業務を導入したあと、必ず問われるのが「このAIが何をやったのか、後から説明できますか」です。AI 監査証跡の設計は、精度評価でも権限設計でもなく『実行後に誰が・何を・いつ・どのデータで行ったかを後から説明できる記録』を残す仕事です。この記事を読めば、残すべきログ項目・記録のタイミング・保管と参照の方針を、自分の業務フローに当てはめて設計できるようになります。
AI 監査証跡が後から効いてくる理由
AIを業務に組み込むと、人が手でやっていた判断や操作の一部をAIが代行します。ここで厄介なのは、何か問題が起きたとき「人なら作業ログや承認記録で経緯を追えたのに、AIだと追えない」という状況です。
トラブルは必ず後から来る
AI導入の現場で繰り返し見てきたのは、誤った出力や想定外のデータ参照が「導入してしばらく経ってから」発覚するという事実です。発覚した瞬間に求められるのは、その1件がいつ・どの入力で・どのデータを使って生成されたのかの再現です。証跡が無いと、ここで調査が止まります。
後付けが最も難しい領域
監査証跡は、権限設計や精度評価と違って後から足すのが極端に難しい領域です。記録していなかった過去の実行はもう取り戻せないからです。だからこそ、動くものを見せる段階と並行して、証跡の要件を先に決めておくことを私たちは大切にしています。
AI 監査証跡に残すべきログ項目
では具体的に何を残すか。出発点は、後から第三者に「誰が・何を・いつ・どのデータで実行したか」を説明できる最小セットです。AIエージェントやLLMの実行では、人の操作ログに加えてAI固有の項目が要ります。
本人まで遡れるIDを残す
最も抜けやすいのが実行者の特定です。AI環境のログにサービスアカウント名しか残らず、実際に指示した本人まで遡れない。これは複数部署をまたぐ組織で頻出します。ログインした本人IDとAIの実行ログを突き合わせられる設計を、最初に決めておく必要があります。
入力・出力・参照データをセットで
AIの場合、入力プロンプト・生成された出力・参照したデータソース(RAGで引いた文書やDBのレコードなど)を一組で残さないと、後で結果を再現できません。下は設計の出発点になる整理です。
項目 | 残す内容 | 後から答えること |
|---|---|---|
実行者 | 本人ID・代行実行の別 | 誰が |
操作 | 入力・出力・使ったモデル/ツール | 何を |
時刻 | 実行日時(タイムゾーン明記) | いつ |
データ | 参照ソース・対象レコード | どのデータで |
ログ自体の機密に注意する
入力や参照データを丸ごと残すと、ログの中に個人情報や機密データが入り込みます。何を原文で残し、何をマスキングや参照キーだけに留めるかは、業務の性質ごとに関係部署と判断するのが安全です。保持期間や保管先の仕様を一律に断定せず、扱うデータの重さに合わせて決めてください。
記録のタイミングと保管・参照の設計
項目が決まったら、次は「いつ・どこに書き、後でどう引くか」です。ここを雑にすると、ログはあるのに肝心のときに辿れない、という状態になります。
製造業の現場で見た設計の勘所
入出荷管理のような基幹業務にAIを絡めた製造業のクライアントの現場では、実行と同時に証跡を書くことを原則にしました。処理が終わってからまとめて書く方式だと、途中で落ちた実行の記録が欠けるからです。実行の直前・直後で記録を分け、失敗した実行も残す。これが後の調査で効きます。SaaS企業の経営者から聞いた話でも、障害時に「失敗ログを残していなかった」ことが一番の痛手だった、という反省は共通していました。
改ざん防止と参照のしやすさ
監査証跡は、後から書き換えられないことと、必要なときに素早く引けることの両立が要ります。スタートアップでの経験から言うと、最初は追記専用の保管と、本人ID・時刻・データで横断検索できる索引さえ押さえれば、小さく始めて育てられます。改ざん防止・本人特定・保持方針の3点を、導入前に関係部署と合意しておくことをおすすめします。権限そのものの設計はAIエージェントの権限管理設計、統制の全体像はFDE内部統制の導入入門、精度側の検証は業務AIの評価設計で扱っています。本記事はそれらと分け、実行の履歴そのものに絞りました。
よくあるご質問
Q. 監査証跡と精度評価のログは同じものですか。
別物です。精度評価は出力の良し悪しを測る記録、監査証跡は誰が・何を・いつ・どのデータで実行したかを後から説明するための記録です。目的が違うため、設計も分けて考えることをおすすめします。
Q. ログに個人情報や機密データをそのまま残してよいですか。
慎重な判断が必要です。原文で残す範囲と、マスキングや参照キーに留める範囲を業務の性質ごとに関係部署と決めてください。保持期間や保管先の仕様を一律に断定せず、扱うデータの重さに合わせて設計します。
Q. 内部統制や監査の領域はFDE検定で扱われますか。
FDE検定は協会が独自運営する民間認定で、出題領域に情報セキュリティや内部統制・監査が含まれます。国家資格ではなく、資格の有無が業務従事を法的に制限するものではありません。
AI監査証跡の設計でお悩みの方へ。FDE活用のご相談はお気軽に
日本FDE協会
FDE(Forward Deployed Engineer)の認知拡大・人材育成・コミュニティ形成を目的とした協会です。技術とビジネスの双方を現場で実践するエンジニアを支援しています。
発行:一般社団法人日本FDE協会
← ブログ一覧へ戻る