ChatGPTで情報漏洩!対策してる? | 株式会社ISSUN(イッスン)

ChatGPTで情報漏洩!対策してる?

GPTで情報漏洩! 対策してる?

目次

ChatGPTはあなたの入力内容を学習する

現在、ChatGPTのWeb版では「ユーザが入力した内容はChatGPTが学習する」との公式な記述があります。表現が曖昧ですが、例えば社内の人間しか知らない売上データや企画やソースコードを使ってChatGPTに質問していたら、ある日グループ会社から「社内の内部データに似たものがChatGPTの回答から見つかった」という風に、実際にあったコワ〜いAmazonの例のようにならないためにも、以下のいずれかの対策が必要です。

【方法1】ChatGPTに入力したデータを学習させない「オプトアウト」

オプトアウトとは「入力した内容をChatGPTに学習させたくない」ことをChatGPTを運営するOpenAIに申請することで、公式のヘルプ記事からリンクされている専用のGoogleフォームから可能です。ただし間違いやすいポイントがあるので下図の点に注意してください。

※なお、Googleフォームへの直接リンクなどが紹介されている記事もありますが、外見からはその真偽が確認できないので必ずヘルプページからリンクされたフォームをクリックされることをお薦めします。

図の通り、フォームへのリンクは2つあり間違いやすいです。必ず図で◎をつけた下の方にあるオプトアウト(opt-out)を選んでください。2つ目のリンクはオプトイン(opt-in)で全く逆のフォームなので、間違って入力しないよう注意してください。
ヘルプ記事:https://help.openai.com/en/articles/5722486-how-your-data-is-used-to-improve-model-performance

オプトアウトのフォームは以下のとおりです。Account Org Settings のリンクをクリックして表示される
「組織名」(Organization name)
「組織ID」(Organization ID)
をコピーしてフォームに貼り付けます。
設定画面では組織名が上になっていてデフォルトでPersonalになっているので、自分が判別しやすい名前に変更しておくと良いようです。
組織IDは、org-から始まる文字列です。

オプトアウトのメリットは過去の質問履歴(プロンプト)やプラグインを再利用できることです。上記の様に、設定完了までに最低5クリック以上必要となり少しだけ手間がかかります。また、オプトアウト完了の確認メールもすぐ届くわけではないので急いでいる場合は不適切なので、方法2を選択する必要があります。

本当にオプトアウトされているのか

※2023/07/26更新

2023/07/26 時点では、前述のオプトアウト申請後に、本当にオプトアウトされているのかどうかを確認する方法はありません。オプトアウト申請後にGoogleフォームから自動返信メールが届くだけです。これは企業や組織によっては、chatGPT導入を阻害するハードルになるでしょう。筆者はオプトアウト機能が告知されて以来、OpenAIのヘルプサポートに質問をし続けて、2023/07/24にようやく回答を得ることができました(詳細)。

・フォームに記入すると自動的にオプトアウトされる
・オプトアウトされた旨を伝える確認メールなどは提供していない
・Advanced Data Analytics(旧:コードインタプリタ)やプラグインなどの機能はオプトアウトしない限り、送信データはOpenAIに学習される。
・ただしAPI製品についてはAPI経由の送信データはAPI製品が許可しない限り学習はしていない

つまりこの回答から判断できることは、「現在、あなたのアカウントはオプトアウトされた状態です」ということを確認する方法は無く、OpenAIを信頼するしか無い、ということです。解釈によっては、オプトアウトが明示的になされているかどうかが曖昧である、ともとれます。このため、Advanced Data Analytics(旧:コードインタプリタ)などのプラグイン利用で使用するデータの機密性を保持したい場合などは、より運用ポリシーが明確であることが予想される、マイクロソフト365コパイロットの公開(2023年末予定)まで待った方が良いかもしれません。
ChatGPT Enterprise では明示的にこうしたセキュリティや機密性が担保されることが明記されるようになりました。2023/08/28

オプトアウト申請よりも前の情報を削除したい場合

しかし、上記方法では、「オプトアウト申請より前の期間」に入力した情報は削除されません。オプトアウト以前のデータを削除したい場合は別途、OpenAIのサポート support@openai.com へ、上記組織IDを添えて削除申請する必要があるようです。

アプリなどAPI利用も2023年3月以前は確認が必要

また、ChatGPTのWeb版ではなく、たとえばLINEでChatGPTが使える「AIアシスタント」といったアプリなどの「API」を介して送信されたデータは原則「オプトアウト」された状態とのことですが、ただし、これらも2023年3月1日以降からの適用のため、それ以前の情報は学習されている可能性があります。この場合、お使いのアプリなどの開発者か、前述のOpenAIのサポート support@openai.com へ、上記組織IDを添えて削除申請する必要があるようです。

【方法2】設定から履歴と学習をオフにする

こちらは簡単です。2023/04/26追記
1:画面左下の「・・・」をクリック> 2:Setting >3:Show > 4:過去の履歴をバックアップしておきたい場合は Export data をクリックして質問と回答の履歴ファイルをダウンロードしておく > 5:Chat History & Training に色がついている場合はクリックしてグレーにする(履歴は非表示となり入力データは学習されない)で以上です。

なお、ダウンロードしたファイルはzip形式で圧縮されているので解凍します。すると以下の様にhtmlファイルがあるのでそれをダブルクリックすれば簡単に確認できます。

履歴をオンにしたまま、入力データは学習させたくない

履歴をオンにしたまま使いたいが、入力データは学習させたくない、という場合は前述の方法1でオプトアウトする必要があります。このあたりは間もなく便利な機能が公開されるとのことです。

オプトアウトしたから安心、ではない。

一方で、こうした機密情報はChatGPTだけでなくその他のAIツールなどでも取り扱いには注意する必要があります。パスワード一覧を入力した、社外秘データを投稿した、喫茶店のWiFiで使ってた、など、スタッフやパートさんなど組織全体にこうしたセキュリティへの認識を定着させるためには「ガイドライン」が効果的です。秀逸な例として、クラスメソッド社さんの「AIサービス利用の社内ガイドライン」https://dev.classmethod.jp/articles/guideline-for-use-of-ai-services/を参考に、自社の場合は何をどう定義すべきなのかを参照いただければと思います。

2023/04/12追記:GPT4All-J というオフラインでChatGPT4が使えて学習データをOpenAIに渡さないツールもあるのですが、利用してみたところまだいくつか課題があってweb版のような拡張性がないため代替品としてはもう少し様子を見ておく必要がありそうです。

2023/07/26 追記 プライベート環境で使える Microsoft公式のAzure ChatGPT が登場しました。まだ誰もが利用できなかったり機能制限がありますが、今後に期待です。


この記事を書いた人
株式会社ISSUN(イッスン) 代表取締役 宮松利博
株式会社ISSUN(イッスン) 代表取締役 宮松利博
RIZAPグループ社創業時の商品開発とマーケティングを手がけ3年で年商20億円に成長、上場と同時に保有株を売却し、Webコンサルティング株式会社ISSUNを設立。日本イーコマース学会を立ち上げ、産官学連携にも取り組む。 【Facebook】【Instagram】【YouTube】【twitter】
Scroll to Top