AIツールのセキュリティチェックポイント

1.イントロダクション

「便利なAIツールを業務に取り入れたいけれど、セキュリティが不安…」

「社員が勝手に無料のAIを使って情報を漏洩させないか心配だ…」

このようにお悩みではありませんか？

ChatGPTやCopilotなどの生成AIが急速に普及する中、業務効率化のためにAIツールを導入する企業が増えています。しかし、AIには従来のソフトウェアとは異なる特有のセキュリティリスクが存在し、ただウイルス対策ソフトを入れるだけでは防ぎきれないのが現状です。

もし適切なチェックを行わずに導入してしまうと、顧客情報の漏洩や、著作権侵害などの法的なトラブルに巻き込まれる可能性があります。 本記事では、

について、AIガバナンスの観点から詳しく解説していきます。ぜひ自社のガイドライン策定やツール選定の参考にしてください。

2.AIツール導入で高まる新たなセキュリティリスク

AIツール、特に生成AIを業務システムに組み込む場合、従来のITツールと同じ感覚でセキュリティチェックを行うだけでは不十分です。 ここでは、AIツール導入によって高まるリスクの全体像を把握しましょう。

2-1.従来のITツールと生成AIの違い

最大の違いは、データが「学習」される可能性がある点と、出力結果が「確率的」である点です。

従来のエクセルやチャットツールでは、入力したデータは保存・送信されるだけでしたが、AIツールの場合は入力データがAIの再学習に使われ、他社のユーザーへの回答として漏洩してしまうリスクがあります。 また、従来のプログラムのように「Aと入力すれば必ずBが返ってくる」とは限らず、毎回異なる挙動をする可能性があるため、品質保証の難易度が上がります。

2-2.シャドーAIの問題

会社が正式に認めていないAIツールを、従業員が個人の判断で業務利用してしまう「シャドーAI」が問題になっています。 「翻訳サイトを使う感覚」で、未公開のプレスリリースや会議の議事録を無料のAIツールに入力してしまい、そこから情報が漏れるケースです。

AI機能が組み込まれたツールを選定する際は、管理者が従業員の利用状況を把握できる機能があるかどうかも重要な視点となります。

2-3.AI特有の「ハルシネーション」と「バイアス」

AIはもっともらしい嘘をつく「ハルシネーション（幻覚）」を起こすことがあります。 また、学習データに含まれる偏見（バイアス）により、特定の性別や人種に対して差別的な出力を生成してしまうリスクもあります。

これらはセキュリティそのものとは少し異なりますが、企業の信頼を損なう「レピュテーションリスク（評判リスク）」として、セキュリティチェックと同時に評価する必要があります。

3.入力データに関するチェックポイント

AIツールを選定・導入する際、最も重視すべきなのが「入力したデータがどう扱われるか」です。
情報漏洩を防ぐために、以下の3点は必ず確認しましょう。

3-1.個人情報・機密情報の入力制限

ツールに入力してよい情報のレベル分けが必要です。

例えば、顧客の氏名や住所、クレジットカード情報、未発表の新製品情報などは、原則としてAIに入力させない運用ルールが必要です。
ツール側で「個人情報を自動でマスキング（隠蔽）する機能」が備わっているか、あるいはDLP（情報漏洩対策）ツールと連携できるかを確認してください。

3-2.学習データへの利用有無（オプトアウト設定）

選定するAIツールが、ユーザーの入力データを「モデルの再学習」に利用するかどうかは極めて重要なチェックポイントです。

多くのエンタープライズ版（企業向け有料プラン）では「学習に利用しない（オプトアウト）」という規約になっていますが、無料版やデフォルト設定では「利用する」となっているケースが大半です。 契約前に利用規約やプライバシーポリシーを読み込み、「入力データは学習に利用されません」と明記されているか、あるいは設定でオフにできるかを確認しましょう。

3-3.データの保存期間とサーバーの場所

入力したデータや生成されたログが、どこの国のサーバーに、どれくらいの期間保存されるかを確認します。 特にGDPR（EU一般データ保護規則）などの海外法規制が関わるビジネスの場合、データの保存場所（データ主権）が問題になることがあります。 また、退会時や契約終了時にデータが確実に削除される仕組みになっているかも確認が必要です。

4.外部からの攻撃・悪用に対するチェックポイント

AIツールは、外部からの悪意ある攻撃の対象にもなります。 AI特有の攻撃手法に対する防御策があるかを確認しましょう。

4-1.プロンプトインジェクションへの対策

プロンプトインジェクションとは、AIに対して特殊な命令文を入力することで、開発者が設定した制限（「爆弾の作り方は教えない」など）を解除させたり、内部の機密情報を聞き出したりする攻撃手法です。 導入するツールが、こうした攻撃に対してどのような対策（ガードレール機能など）を講じているか、ベンダー側に確認することをおすすめします。

生成AIの脱獄（Jailbreak）を徹底解説

4-2.サプライチェーン攻撃のリスク

AIツールが依存している外部のモデルやライブラリに脆弱性がある場合、そこから攻撃を受ける可能性があります。

「OpenAIのAPIを使っているから安全」と思い込まず、そのツール自体が提供している独自のプログラム部分に脆弱性がないか、セキュリティ診断（脆弱性診断）が行われているかを確認しましょう。

4-3.出力物の著作権・商標権侵害リスク

AIが生成した画像や文章が、既存の著作物や商標に酷似してしまうリスクです。 特に画像生成AIツールを導入する場合、特定の作家やキャラクターに似せないようなフィルタリング機能があるか、または万が一侵害訴訟が起きた際にベンダー側が補償してくれる制度（著作権補償）があるかを確認することが重要です。

5.運用・ガバナンス体制のチェックポイント

ツール自体の機能だけでなく、それを運用する体制面でのチェックも欠かせません。

5-1.利用規約とSLA（サービス品質保証）の変更確認

AI分野は変化が激しく、利用規約やSLAが頻繁に変更されます。 「最初は学習に使わないと言っていたのに、規約改定で使うようになった」というケースもあり得ます。 規約変更の通知が管理者に届く仕組みになっているか、またSLAにおいて稼働率やサポート対応時間が自社の基準を満たしているかを確認しましょう。

5-2.アクセス制御と利用ログの監視

「誰が、いつ、どんなプロンプトを入力し、どんな回答を得たか」をログとして記録・監査できる機能は必須です。 万が一情報漏洩が疑われる事態になった際、ログがなければ追跡調査ができません。 また、SSO（シングルサインオン）に対応しているか、多要素認証が使えるかなど、不正アクセスを防ぐための認証機能も必ずチェックしましょう。

6.まとめ

AIが組み込まれたツールのセキュリティチェックポイントについて解説しました。 重要なポイントを振り返ります。

• 入力データの扱い: 再学習に使われない設定（オプトアウト）ができるか。
• AI特有の攻撃: プロンプトインジェクションやハルシネーションへの対策はあるか。
• ガバナンス機能: 利用ログの監視や、規約変更への対応が可能か。

AIは強力な武器ですが、使い方を誤れば大きなリスクとなります。 「便利そうだから」と安易に導入するのではなく、上記のポイントを一つひとつクリアにし、社内のセキュリティガイドラインと照らし合わせた上で導入を決定してください。

もし、「自社のセキュリティポリシーに合ったAIツールの選定基準が作れない」「社員向けのAI利用ガイドラインの作成を手伝ってほしい」というご要望があれば、ぜひご相談ください。 貴社の状況に合わせたガバナンス体制の構築をサポートいたします。問い合わせはこちらから。

同じカテゴリーの記事