AIの安全な使い方：入力してはいけない情報とは？

AIに入力してはいけない情報とは？

一般に利用できるAIモデルには、次のような情報を入力しないでください。

• 個人情報 ― 顧客や従業員、利用者自身の氏名、住所、マイナンバー、電話番号、メールアドレスなど。
• 医療情報 ― 病歴、検査結果、患者の診断情報など。個人情報保護法やHIPAAなどの厳格な法規制の対象になり得ます。
• 企業の機密情報 ― 未公表の財務報告書、マーケティング戦略、顧客データベース、合併・買収や人員削減の計画など。
• 営業秘密 ― ソフトウェアのソースコード、製造レシピ、独自のアルゴリズム、社内向けの技術文書など。
• 認証情報 ― パスワード、APIキー、ログイン情報、認証トークン、決済カード情報、暗号鍵など。
• 著作権で保護された資料 ― 利用者が適切なライセンスを持たない書籍、購読制の学術論文、教材などの全文。
• 違法な内容 ― 暴力や憎悪を助長する資料、または法律に違反する行為の手順など。

AIに入力したデータはどうなる？

クラウドサービスの提供事業者に送信されたデータは、複数の段階で処理・分析されます。回答の生成だけで、そのデータの扱いが終わるとは限りません。

モデルの学習

一般向け生成AIツールの標準プランでは、入力データがモデルの追加学習に利用されることがあります。入力した情報がニューラルネットワークのパラメータに影響し、理論上は将来、別の利用者への回答に現れる可能性があります。

人による確認とモデレーション

AIシステムには、自動処理に加えて安全性を確保するためのフィルターがあります。アルゴリズムが問い合わせを不審なもの、たとえば利用規約に違反する可能性があるものと判定した場合、会話にフラグが付けられ、人による確認に回されることがあります。その際、提供事業者の従業員や外部の監査担当者、データラベラーが、モデレーションの改善を目的として入力内容を直接確認する場合があります。

データの保存とバックアップ

AIの提供事業者は、サービスの継続、エラーの診断、次回以降の会話での文脈の維持などを目的に、会話履歴をサーバーに保存します。利用者が画面上でチャットを削除しても、サーバー上の情報が直ちに消えるとは限りません。一定期間バックアップに残る場合があり、クラウド基盤がサイバー攻撃を受けた際には、機密情報が流出するリスクが高まります。

個人向けアカウントと法人向けアカウント：保護水準の違い

無料・有料を問わず、一般向けの標準アカウントでは、多くのサービスが入力情報を初期設定でモデルの学習に利用します。機密情報を入力すれば、会話のたびに意図しない情報流出のリスクが生じます。

法人・企業向け環境では、たとえばEnterpriseプランや、Microsoft Azure、AWS、Google Cloudなどの提供事業者のAPIを通じてプライベートクラウド上に構築したサービスなど、より厳格な保護基準が設けられています。提供事業者はISO 27001、SOC 2、GDPRなどへの対応を示し、SLAやDPAなどの契約で、顧客データを一般公開される基盤モデルの学習に使用しないと定めています。こうした環境では入力データに関する制約が緩和される場合もありますが、リスク管理方針とアクセス制御は引き続き必要です。

AIに入力できる情報とは？

注意すべき情報は多いものの、AIで比較的安全に処理できる情報もあります。たとえば、次のようなものです。

• 一般公開されている資料 ― 公開記事、ブログ投稿、一般に入手できる市場レポート、法令、Wikipediaなどのウェブサイト上の情報。
• 機密性のない情報 ― 一般的な手順、理論に関する質問、文法や表記のルール、数式、語句の意味に関する質問。
• 匿名化した文書の抜粋 ― 固有の変数、キー、顧客名、内部システムの構成情報を完全に取り除いた文書のひな形、契約書の見本、コードの一部。
• 自分で作成した文章 ― 機密性の高い事業情報を含まないメールの下書き、SNS投稿、プレゼンテーションの構成案、記事。
• 公開データセット ― 分析や書式設定の練習に使う合成データ、公開リポジトリの統計データ。

AIに送る前に、メッセージやデータを適切に匿名化するには？

識別情報の置き換えとトークン化

ここでいうトークン化とは、機微な情報を仮の表記に置き換えることです。たとえば「山田太郎」を「[顧客_1]」に、「株式会社ABC」を「[組織_A]」に置き換えます。文書の構造や文脈を言語モデルに伝えながら、元の人物や組織を特定しにくくできます。

機微な情報をマスキングする方法

マスキングは、重要な文字列を直接隠す方法です。たとえば、カード番号を「4532 **** **** ****」のように置き換えます。データを一般化する方法も有効です。月給「35万円」という正確な金額の代わりに「月給30万〜40万円」と幅を持たせれば、再特定のリスクを抑えられます。

処理の自動化：DLPツールとRegEx

長い文章から手作業で情報を削除すると、見落としが生じがちです。業務環境では、正規表現（RegEx）を使ったスクリプトや、DLP（データ損失防止）ツールが利用されます。これらのツールは送信前のプロンプトを自動で検査し、マイナンバー、法人番号、メールアドレス、銀行口座番号などに該当する形式の文字列を検出して、送信を止めたり置き換えたりできます。

AIに入力した情報を学習に使わせない設定方法

情報をAIに入力するリスクは、ツール側の設定でも抑えられます。多くの提供事業者は、入力内容をモデルの学習に使わないよう選択するオプトアウト機能を用意しています。

• ChatGPT（OpenAI） ― アカウントの「Settings」にある「Data controls」で、「Improve the model for everyone」をオフにします。これにより、入力した文章を使ったモデルの学習を停止できます。現在の画面では、この操作をしても利用者に表示される会話履歴は削除されません。この設定とは別に、安全性の確保と不正利用の監視を目的として、OpenAIがログをサーバーに一定期間保存する場合があります。
• Gemini（Google） ― プライバシー設定で「Gemini Apps Activity」をオフにします。新しい会話がGoogleアカウントのアクティビティに保存されず、モデルの学習にも利用されなくなります。ただし、提供事業者のシステムからログが直ちに消えるわけではなく、サービスの安全性を保つために最長72時間保存される場合があります。
• Claude（Anthropic） ― 無料版や一般向けの標準プランでは、入力データをモデルの改善に利用する設定が初期状態で有効になっている場合があります。これは、利用者の会話を学習に使わないことを強調していた初期の方針からの重要な変更です。無効にするには、アカウント設定のプライバシー項目で「Help improve Claude」をオフにします。

プライバシー設定の変更や学習への利用の停止は、原則として変更後に送信するデータに適用されます。変更前に送信し、すでに学習に使用された情報まで取り消せるわけではありません。