AIセキュリティ評価書
サンプル
実際の顧客、診断結果、導入実績を示すものではありません。想定する事実をもとに、成果物の構成と考え方を紹介します。
1. 対象と前提
架空の開発チーム「サンプルAI開発」が、顧客文書を検索するRAGと、業務ツールを操作するエージェントを検証していると仮定します。対象は文書検索権限、ツール接続、ログ、操作承認です。コードレビューや侵入テストは実施していません。
2. 想定される確認結果と改善案
| 優先度 | 想定する状況 | 考えられる影響 | 推奨する対応と確認方法 |
|---|---|---|---|
| 高 | 複数顧客の検証環境で同じ接続認証情報を利用 | 意図しない顧客データへのアクセス | 顧客・環境ごとに権限を分離。権限外の文書にアクセスできないことをテスト |
| 高 | エージェントが承認なしで外部送信を実行できる | 誤送信や不要な情報公開 | 送信先を制限し、重要操作には承認を追加。未承認の操作が拒否されることを確認 |
| 中 | 入力文と出力文を含むログを広く共有 | ログ経由の機密情報への接触 | ログの記録内容と閲覧権限を見直す。保管期間と削除方法を文書化 |
| 中 | アラート確認・設定変更の担当が未定 | 問題の見落とし、対応の遅延 | 確認担当、連絡手順、対応時間帯を合意し、模擬連絡で確認 |
優先度は、この架空の前提に基づく例です。実環境の深刻度や悪用可能性を判定したものではありません。
3. 改善計画の例
- 最初に：顧客ごとのアクセス権と外部送信機能の制御を確認。
- 次に：ログの範囲、閲覧権限、保存期間を整理。
- 運用前に：担当者と連絡手順を決め、変更後の動作を検証。
4. 実施済みと推奨事項を分ける
このサンプルで実施済みの対策はありません。実際の評価書では、「確認した証拠」「未確認」「推奨」「設定済み」「検証済み」を区別します。製品を導入しただけで対策完了とは扱いません。
5. 継続運用で合意すること
- 管理対象のツールと設定項目
- アラート確認の頻度・対応時間帯・緊急連絡の範囲
- 月次報告に含める設定変更、課題、対応状況
- 顧客側と支援側それぞれの担当者・責任
継続運用や製品ライセンスは、別途合意した契約の範囲で提供します。このサンプルは24時間の監視やインシデント対応を約束するものではありません。