生成AIのセキュリティ対策｜企業が導入前に決める論点と費用の目安

生成AIのセキュリティ対策は、入力・出力・接続の3か所で決めます。入力では、入力データを学習に使わない法人向けプランやAPIを選び、顧客の個人情報や取引先の非公開情報を入れないルールを定めます。出力では、社外に出す文書や数値を人が確認する手順を置きます。社内システムに接続する場合は、AIに許す参照・操作の範囲を絞り、操作の記録を残します。

はじめに手を付けるのは、費用のかからない利用ルールの策定です。何を入力してはいけないかを1枚にまとめて全社に配り、そのうえで法人向けプランへの切り替えやログ・アクセス管理など費用のかかる対策を、扱う情報の重要度に合わせて足します。

生成AI導入でセキュリティが問題になる理由

生成AI（人が書いたような自然な文章を作ったり、質問に答えたりできるAI技術）の企業導入が進むにつれ、経営層や情報システム部門からは「セキュリティが不安」という声がよく聞かれます。不安の中身は、「入力した情報がどう扱われるか」「出力された内容をそのまま信頼してよいか」「社内システムと連携させた際にどこまでアクセスを許可してよいか」の3つに分けられます。それぞれについて自社の判断基準を決めれば、導入の可否と条件を社内で具体的に話し合えます。

生成AIの主なセキュリティリスク

生成AIの業務利用でよく挙げられるリスクは次の5つです。

• 入力データの学習利用：AIサービスの提供側が、利用者の入力した文章をモデルの学習に使う場合がある。学習に使うかどうかは契約と設定で変わるため、利用するサービスの規約と管理画面の設定を確かめる
• 出力内容の誤り：生成AIは事実と異なる内容をもっともらしく生成することがある（いわゆるハルシネーション）。出力を社外に出す前に、誰が何を確認するかを決める
• 権限設計の不備：AIエージェント（自律的に判断し社内システムを操作するAIの仕組み）が社内データベースや業務システムに接続する場合、参照・操作を許す範囲が広すぎると、誤操作や情報の持ち出しにつながる
• 外部連携の認証：MCPサーバーのような接続規格でAIと外部システムをつなぐ場合、接続先ごとに認証と認可（誰に何を許すか）を設計する必要がある
• プロンプトインジェクション：AIに読み込ませた文書やWebページに、本来の指示を上書きする命令が紛れ込み、AIが意図しない出力や操作をする攻撃。Webセキュリティの国際的なコミュニティであるOWASPがまとめた「OWASP Top 10 for LLM Applications 2025」でも、最初の項目に挙げられている

どのリスクも、「自社のどの情報・どのシステムが、どの経路でAIに触れるのか」を書き出すと、対策の範囲が決まります。

生成AI利用の社内ルールでは、ツールの設定手順を決める前に、次の4点を決めます。

• 入力してよい情報の範囲（顧客の個人情報・取引先の非公開情報等をどこまで入力対象外とするか）
• 利用してよい生成AIサービス・利用を控えるべきサービスの線引き
• 出力内容を業務で使う前に、誰がどのような形で確認するか
• 社内システムとの連携を許可する場合、誰が権限の付与・見直しを判断するか

線引きは業種や扱う情報によって変わります。他社の規程を流用せず、自社が扱う情報（顧客情報、取引条件、設計図面など）を一覧にして、入力してよい・条件付きで可・入力しないの3つに分けるところから始めます。公的な指針としては、総務省と経済産業省が2024年4月に公表した「AI事業者ガイドライン」があり、AIを業務で使う事業者（AI利用者）が留意する事項も示されています。

4点をどう詰めるかは、生成AIの社内ルール・ガイドラインの作り方｜決める項目と進め方に手順があります。

社外に出せないデータがある場合の選択肢

取引先契約や業界慣習上、外部のAIサービスにデータを送信すること自体が難しい場合もあります。この場合の選択肢の一つが、ローカルLLM（大規模言語モデルを社内環境や自社専用のクラウド区画で稼働させ、データを外部のAIサービス提供元に送信しない形態）や専用環境の構築です。RAG（社内データをLLMに参照させる仕組み）と組み合わせて、社内データを外部に出さずに活用する構成を取ることも可能です。ただし、ローカルLLMは汎用のクラウド型サービスと比べて構築・運用の負担が大きいため、データの機密性の高さと、構築・運用にかけられる人員と予算を見比べて判断します。

依頼先（開発会社）に確認すべきこと

生成AI活用を外部の開発会社に依頼する場合は、発注前に次の4点を確認します。

• 入力データが学習利用されない設定・契約になっているか
• 開発したAIエージェントやシステムがアクセスできる社内データ・システムの範囲をどう設計しているか
• 出力内容の確認体制をどう組み込む設計になっているか
• 障害・誤作動が起きた場合の切り戻し（ロールバック。以前の状態に戻す対応のこと）の考え方

回答が具体的かどうかで、依頼先が自社の情報の性質を理解して設計できるかが分かります。

生成AIのセキュリティでよくある3つの誤解

①特定のツールを導入すればセキュリティ対策が完了する：セキュリティは入力データの扱い・出力の確認体制・権限設計など複数の要素の組み合わせで、1つのツールの導入では完結しません。

②社内ルールを作れば自動的に守られる：ルールの策定と、日々の利用でルールが守られる状態は別の課題です。法人向けプランへの統一や権限設定など、ルールを守れる環境もあわせて用意します。

③セキュリティは厳しいほど良い：利用を過度に制限すると、業務効率化の効果が出ないうえ、社員が個人のアカウントで使う原因にもなります。情報の重要度に応じて、入力しない情報と入力してよい情報を分けます。

導入の進め方と費用の目安

導入は、現状の把握、実装、運用の3段階で進めます。

①現状の把握では、対象業務で扱う情報の性質・入力してよい範囲・連携したい社内システムを洗い出し、セキュリティ面でどのような設計が必要かを見立てます。

②実装では、把握した内容をもとに、権限設計や出力確認体制を組み込んだ形で開発を進めます。

③運用では、業務内容の変化や新しい連携先の追加に応じて、ルールや権限設計を継続的に見直します。

費用は対象業務の複雑さや連携するシステムの数によって変わります。市場の目安は次のとおりです。

表の4つのうち、着手するのは利用ルールの策定からです。技術的な対策の前に「何を入力してはいけないか」を1枚にまとめて全社に配ると、個人情報や機密情報の誤入力を防ぐ土台ができます。

まとめ

生成AIのセキュリティは、「どの情報を、どの範囲で、どう確認しながら使うか」を決める設計の問題です。入力データの扱い、出力内容の確認体制、権限設計の3点を自社の情報に照らして決めれば、利用を止めずに検討を進められます。AIエージェントの全体像はAIエージェントとは、外部システムとの接続規格はMCPサーバーとは、社内データ活用の仕組みはRAGの仕組みに詳しくあります。

生成AI導入やセキュリティに関するよくあるご質問はよくあるご質問でも回答しています。

生成AIで扱う情報を「入力してよい・条件付きで可・入力しない」に分ける一覧づくりと、AIに接続する社内システムの範囲の線引きから、awaiが関わります。