ChatGPTの「オプトアウト」は信頼できる？

非学習でAdvanced Data Analytics を使うにはオプトアウトが必須だが

例えば、ChatGPT でAdvanced Data Analytics （旧：コードインタプリタ※1）を利用しようとすると、そのままでは送信データはOpenAIに学習されます（※2）。学習させないためにはオプトアウト申請が必要なのですが、その仕様などはほとんどブラックボックス状態で、サポートに問いあわせてもなかなかつながらない状態。今回、オプトアウト機能が公開され問いあわせ続けること4ヶ月、ようやく公式見解としてのオプトアウトに関する回答が得られたのでまとめてみました。

2023/08/29 追記
※1：ChatGPT Enterprise の発表に伴い、コードインタプリタの名称が Advanced Data Analytics　に変更されました。以下、コードインタプリタ　は　Advanced Data Analytics　と表記します。
※2：ChatGPT Enterprise では「入力内容はOpenAIで学習しない」と明記されています。

入力内容やデータを学習させない「オプトアウト」とは

「ChatGPTは、入力した内容やデータを学習するらしい」
「学習された内容は、他者の回答で流用されるらしい」
そんな心配から開放してくれるのが、

1. ChatGPTに「オプトアウト」申請する
2. 設定から履歴と学習をオフにする（最も手軽）
3. プライベート環境でChatGPTを使う（使えない機能がある）

の3つの方法です。（詳細はこちら）

ただし、ChatGPTを使いこなすなら必須ツールとも言える Advanced Data Analytics やプラグインなどを使おうとすると、以下のとおり現段階では2と3は使えません。

1. ChatGPTに「オプトアウト」申請する
2. 設定から履歴と学習をオフにする（最も手軽）
3. プライベート環境でChatGPTを使う（使えない機能がある）

つまり、こちらの手順を参考に、ChatGPTにオプトアウト申請する必要があるのですが、不安も残ります。

• オプトアウト申請してもGoogleフォームからの確認メールが届くだけ
• いつからオプトアウトされるの？
• 今、オプトアウトされているの？
• FAQやプライバシーポリシーのどこにも記載が無い
• そもそも Advanced Data Analytics やプラグインで入力した内容やデータが学習対象なのかがわからない

このあたりがハードルになってChatGPTを使いこなせない組織も多いんじゃないかと思います。

いつオプトアウトされるの？

そこで、公式サポートに問いあわせ続けること4ヵ月、ようやく以下のような回答が得られました。

Hello,
Thank you for reaching out to OpenAI support.First off, we’re very sorry for the delay in getting back to you. As we’ve scaled quickly, we have been working hard to catch up with all the interest and outreach from customers like you. We strive for much faster response times and are working on improvements to get back faster.Once you have filled out the form, you will be opted out automatically from having your data used for training purposes. We understand that you may want to receive confirmation, however, at this time, we do not send confirmation emails after submission. We would also want to let you know that this opt out will apply on a going-forward basis only. Kindly refer to this article for more information.Since code-interpreter is a plugin feature for ChatGPT, any data submitted by customers will still be used for training unless you have opted-out. Please note that only for our API product, OpenAI will not use data submitted by customers via our API to train or improve our models, unless you explicitly decide to share your data with us for this purpose.Hope this helps! Please let us know if we can help with anything else by replying to this email.Best,
Gian
OpenAI Support

抄訳すると

• 申請フォームに記入すると自動的にオプトアウトされる
• オプトアウトされた旨を伝える確認メールなどは提供していない
• Advanced Data Analytics やプラグインなどの機能はオプトアウトしない限り、送信データはOpenAIに学習される
• ただしAPI製品についてはAPI経由の送信データはAPI製品が許可しない限り学習はしていない

つまり、オプトアウト申請しておけば Advanced Data Analytics やプラグイン（※）の入力内容やデータは学習されない、ということで一安心のようです。これではさすがに不親切なのでせめてFAQなどに追記してもらうよう依頼しておきました。

※：プラグインへの入力内容などについては、プラグイン提供元のプライバシーポリシーなども確認して下さい。

本当にオプトアウトされているの？

一方で、上記回答によるとオプトアウトされた状態を確認する方法は現時点では無く、申請後はOpenAIを信頼するしか無い、という曖昧さも残ります。それでもなんとか組織利用を管理したい場合は、オプトアウト申請した際にGoogleフォームから自動返信される「確認メール」をスタッフ分ひとつひとつチェックする必要がありそうです。

このあたりは、プライベート環境で使える　Microsoft公式のAzure ChatGPT　の進化を待つか、マイクロソフト３６５コパイロットの公開（2023年末予定）まで待った方が良いかもしれませんね。

2023/08/28 ChatGPT Enterpriseではこうした機密性やセキュリティなどが明示的に担保されるそうです。

オプトアウトで防げない「情報漏洩」もある

ただし、オプトアウト申請しているから安全、ということではありません。

• ChatGPT側のサーバやシステム不備で情報漏洩する
• 自分自身のPCやネットワーク環境が原因で情報漏洩する

これはChatGPTに限った話ではありません。ネット上のサービスを利用する以上、普段から、

• 入力内容やデータから、極力不要な情報は削除する
• コンビニ、喫茶店、ホテルなどで「暗号化なし」や「WEP暗号化」といったWi-Fiにつながない

といった基本的な意識は必要です。また、ChatGPTやBardなどの運用ポリシーなどを社内で制定しておくことも重要でしょう。