AIシステム開発とセキュリティ・ガバナンスの両立ポイント
監修：アジアクエスト株式会社 AIアクセラレーション室
執筆：アジアクエスト編集部
AIシステム開発が全社に広がるほど、避けて通れなくなるのが「セキュリティ・ガバナンス」の問題です。結論から言うと、AI活用におけるセキュリティ・ガバナンスの目的は、AIの利用を制限することではなく、「安全性を確保しながら、活用のスピードを落とさない」ための仕組みを整えることにあります。本記事では、AIシステム開発特有のセキュリティリスクと、開発スピードを損なわずにガバナンスを効かせるための考え方を整理します。
1. なぜAIシステム開発でセキュリティ・ガバナンスが重要なのか
生成AIやAIエージェントは、社内の文書・顧客データ・業務システムなど、機密性の高い情報にアクセスしながら動作することがビジネス上の文脈においては前提となります。従来のシステム開発でもセキュリティは重要な要素でしたが、AIシステムには「どの情報を、どこまでAIに参照させるか」という新しい論点が加わります。
さらに、AIエージェントのように自律的に判断・実行するシステムが増えるほど、「誰が・いつ・どの情報に・どの権限でアクセスしたか」を組織として把握できているかどうかが、情報漏えいや誤操作のリスクを大きく左右します。AIシステム開発を企画する段階から、セキュリティ・ガバナンスを織り込んでおくことが欠かせません。
2. AIシステム特有のセキュリティリスク
AIシステム開発において注意すべきセキュリティリスクには、従来のシステム開発にはなかった要素が含まれます。
-
機密情報の意図しない参照・出力：RAGやAIエージェントが、本来アクセス権限のない情報まで参照し、回答に含めてしまうリスク
-
プロンプトインジェクション：悪意のある入力によって、AIに本来の指示とは異なる挙動を取らせようとする攻撃
-
外部SaaS・API連携における情報の流出経路の増加：AIエージェントが複数の外部サービスと連携するほど、データが行き来する経路が増え、管理すべき接続点が増加する
-
利用ログ・監査証跡の不在：誰が・どのAIを使って・何を参照したかが記録されていないと、問題発生時の原因究明や説明責任を果たせない
これらのリスクは、AIモデル自体のセキュリティ対策だけでは防ぎきれません。AIと業務システムの「間」をどう設計するかが、実は最も重要なポイントになります。
3. 「制限」と「放任」の二択に陥らないための考え方
AIシステム開発が現場主導で広がっていくと、情報システム部門は生成AIやAIエージェントに関して、「安全のため利用を制限する」か「実態を把握しきれないまま黙認する」かの二択を迫られがちです。しかし、いずれの対応も本質的な解決にはなりません。
- 利用を制限すれば、現場が得られるはずだった効率化の効果が失われる
- 黙認すれば、機密情報や個人情報への不適切なアクセスが起きても発見が遅れるリスクを抱えたままになる
この二択から抜け出すためには、「AIの利用そのものを止める」のではなく、「AIが安全にアクセスできる範囲を、組織として可視化・制御する」という発想への転換が必要です。
4. AIアクセス基盤という解決アプローチ
こうした課題に対応する考え方として、AIエージェントと業務システムの間に立ち、アクセスを一元的に制御・記録・管理する「AIアクセス基盤」の整備があります。具体的には、以下のような機能が求められます。
-
権限パススルー：AIエージェントに固定の広い権限を持たせず、利用者本人の権限の範囲内でのみデータを参照させる仕組み
-
全アクセスの監査ログ：誰が・いつ・どの権限で・何を操作したかを自動記録し、コンプライアンス対応や説明責任を果たせるようにする仕組み
-
既存ID基盤との連携：既存のID管理基盤と連携し、AIがアクセスできる範囲を一元的に管理する仕組み
アジアクエストが提供するアクセスガバナンス基盤「GAIA（Governed AI Access）」は、こうした権限パススルーや監査ログの機能を備え、MCP（Model Context Protocol）準拠でAIエージェントを一元管理できる基盤として提供されています。全社的にAI活用を広げていく企業ほど、個別のAIシステムを作るだけでなく、こうした基盤を並行して整備しておくことが重要になります。GAIAは特定のAIモデルに依存しない中立性を持った基盤であることも特長です。ChatGPT・Claude・Geminiなど、複数のAIモデル・アプリケーションを横断して、同じ基準でアクセスを管理できる仕組みが整っています。
GAIAの詳細はGAIA Governed AI Access（アクセスガバナンス基盤）をご覧ください。
5. 組織としての情報セキュリティ体制の重要性
AIシステム開発を外部パートナーと進める場合、そのパートナー自体がどのような情報セキュリティ体制を持っているかも、確認すべき重要なポイントです。ISMS（情報セキュリティマネジメントシステム）認証のような第三者認証を取得している開発パートナーであれば、組織的な情報管理体制が一定の基準を満たしていることの裏付けになります。
もう一つの確認ポイントが、セキュリティ・コンプライアンス要件が厳しい領域での対応実績です。認証の有無は組織としての「体制」を示すものですが、実際にそうした体制が機能するかどうかは、要件の厳しい案件にどれだけ対応してきたかによって裏付けられます。金融機関や官公庁、大企業の基幹システムなど、情報管理に高い水準が求められる領域での開発・運用経験があるパートナーであれば、契約交渉やインシデント対応、監査対応といった実務面でも、一定の水準を期待しやすくなります。
アジアクエストはISMS認証を取得しており、組織としての情報セキュリティ管理体制を整備した上で、AIシステム開発の支援を行っています。AI活用を検討する企業にとって、開発パートナーの技術力だけでなく、情報セキュリティに対する体制・実績も、パートナー選定の重要な判断材料になります。
6. クラウド・データ基盤におけるセキュリティ設計のポイント
AIシステムの多くは、クラウド環境やデータ基盤の上に構築されます。そのため、AIモデルやアプリケーション層のセキュリティだけでなく、その土台となるインフラ・データ基盤のセキュリティ設計も欠かせません。
- クラウド環境のアクセス制御・権限設計（IAM設計など）
- データ基盤における暗号化・アクセスログの管理
- 既存システムとAI関連システムを接続する際の通信経路のセキュリティ
これらの基盤面の設計が甘いと、AIシステム単体でどれだけセキュリティ対策を施しても、土台となるインフラ側から情報が漏えいするリスクが残ってしまいます。企画段階から、AIモデルの設計とインフラ・データ基盤の設計を、セットで検討しておくことが望まれます。
7. ガバナンスと開発スピードを両立させる進め方
セキュリティ・ガバナンスを重視するあまり、承認プロセスや確認作業が過剰に増えてしまうと、AI活用のスピードそのものが損なわれてしまいます。ガバナンスと開発スピードを両立させるためには、次のような考え方が有効です。
-
リスクの高さに応じて確認プロセスの厳しさを変える：機密性の高い情報を扱う業務と、社内一般情報を扱う業務とで、承認フローの重さを分ける
-
個別承認ではなく、基盤レベルでのルール設定に寄せる：AIエージェントを追加するたびに個別審査するのではなく、あらかじめ定義されたアクセスルールの範囲内であれば、迅速に利用開始できるようにする
-
可視化を前提にした「試しやすさ」を確保する：利用ログが自動的に記録される前提であれば、まず小さく試してみるハードルを下げやすくなる
こうした設計により、「安全性を確保しながら、素早く試せる」環境を整えることが、AIシステム開発を全社に広げていく上での実務的なゴールになります。
8. よくある質問（FAQ）
Q1. AIシステム開発において、従来のシステム開発と比べて特に注意すべきセキュリティリスクは何ですか？
AIが本来アクセス権限のない情報まで参照・出力してしまうリスクや、悪意のある入力によってAIの挙動を意図しない方向に誘導する「プロンプトインジェクション」など、AI特有のリスクが加わる点に注意が必要です。
Q2. 複数のAIエージェントを導入する際、セキュリティ面で何を優先して整備すべきですか？
まず基本になるのは、「最小権限の原則」を徹底することです。AIエージェントごとに個別のIDやAPIキーを発行して広い権限を与えるのではなく、利用者本人の権限範囲内でのみデータにアクセスできるようにすることが基本方針になります。また、新しいAIエージェントを外部システムに接続する際のレビュー・承認プロセスをあらかじめ決めておくことも重要です。
ただし、これらのルールを部門ごと・エージェントごとに個別運用していると、AIエージェントの数が増えるにつれて管理が追いつかなくなり、「どのAIが・どの情報にアクセスできる状態になっているか」を組織として把握しきれなくなっていきます。特に、複数部門で並行してAIエージェントの導入が進んでいる企業や、今後全社的に展開していく計画がある企業では、個別ルールの運用に代えて、アクセス権限・ログ管理を一元化できるAIアクセス基盤の導入を早い段階から検討しておくことも有効な選択肢です。アジアクエストはAIアクセス基盤として、「GAIA（Governed AI Access）」を展開しており、詳しくは問い合わせしてみることをお勧めします。
Q3. AI開発パートナーを選ぶ際、セキュリティ面でどこを確認すべきですか？
確認すべき代表的な項目は次のとおりです。
- 第三者認証の有無：ISMS（ISO/IEC 27001）などの認証を取得しているか
- データの取り扱い方針：開発・検証で扱うデータの保存場所、保存期間、利用目的外での再利用の有無
- 再委託の管理：開発の一部を再委託する場合、再委託先にも同水準のセキュリティ管理が及んでいるか
- アクセスログ・監査対応：開発・運用時のアクセス履歴を、依頼側が確認できる仕組みがあるか
- 契約上の責任範囲：情報漏えいなどのインシデント発生時の責任分担や報告義務が契約に明記されているか
- セキュリティ要件の厳しい案件への対応実績：金融機関や官公庁・自治体、大企業の基幹システムなど、特にセキュリティ・コンプライアンス要件が厳しい領域での開発・運用実績があるか
特に最後の項目は、認証の有無だけでは測れない「実際の運用場面での対応力」を確認する手がかりになります。要件が厳しい案件に対応してきたパートナーであれば、契約交渉や監査対応、インシデント発生時の報告フローなど、実務レベルでのセキュリティ対応にも慣れている可能性が高くなります。技術力だけでなく、これらの項目を提案段階で具体的に確認できるかどうかが、パートナーとしての信頼性を見極める実務的なポイントになります。
Q4. セキュリティを厳しくすると、AI活用のスピードが落ちてしまうのではないですか？
個別に厳格な承認を都度求める運用では、スピードが落ちやすくなります。あらかじめ定義されたアクセスルールの範囲内であれば迅速に利用できるようにするなど、基盤レベルでルールを設計することで、安全性とスピードを両立させやすくなります。アジアクエストが提供するGAIAを導入すれば、AI活用のスピードを犠牲にしません。
9. まとめ
AIシステム開発におけるセキュリティ・ガバナンスの目的は、AI活用を制限することではなく、「安全にアクセスできる範囲を可視化し、活用のスピードを落とさない」仕組みを整えることにあります。個別のAIシステムごとに対策を積み上げるのではなく、アクセスガバナンス基盤の整備や、組織としての情報セキュリティ体制の確認、クラウド・データ基盤のセキュリティ設計までを、企画段階から一体で検討することが重要です。
本シリーズでは、企画・PoC・本運用・体制づくり・業界別実装・セキュリティガバナンスという6つのテーマから、AIシステム開発のポイントを解説してきました。アジアクエストでは、企画から実装、運用、そしてセキュリティ・ガバナンス面の整備まで、一気通貫で支援しています。AIシステム開発についてご相談がある方は、以下のサービスページもあわせてご確認ください。
前回の記事「業界別AIシステム開発事例に学ぶ実装のポイント（製造・建設・小売など）」もあわせてご覧ください。
監修：アジアクエスト株式会社 AIアクセラレーション室
AIインテグレーターとして、生成AI／AIエージェント／LLM／機械学習の企画から実装・運用までをワンストップで支援。