ChatGPTを仕事で使う上でのセキュリティリスクについて

ChatGPTって便利ですよね。僕もネットで調べて解決しない時は解決策を聞いてます。

積極的に仕事に使うことを推奨したい気持ちはあるのですが、どうしても気になるのがセキュリティリスク。

僕の勤め先でも議事録の要約にChatGPTの活用する案が出ているのですが、セキュリティを考慮してルールづくりを徹底しないと運用は難しいと情報システム管理者の立場として提言しています。

具体的にどういったリスクがあるのか整理します。返ってきた回答の情報が古かったり間違っていたりするというといったリスクもありますが、今回は情報漏えいの観点に限定します。

スポンサーリンク

考えられるセキュリティリスク

送信した内容が学習されることによるリスク

最も怖いのがこれ。ChatGPTはユーザーが入力した内容からも学習する場合があるため、個人情報や機密情報を送信してしまうとそれも学習してしまいます。

これによりChatGPTからの回答を経て、個人情報や機密情報が含まれる内容が第三者に漏えいしてしまうリスクがあります。

【やじうまPC Watch】 Samsung、ChatGPTの社内利用で3件の機密漏洩
韓国이코노미스트(Economist)は3月30日、Samsung Electronicsが社内でChatGPTの使用を許可したところ、機密性の高い社内情報をChatGPTに入力してしまう事案が発生したと報じた。少なくとも3件が確認されてい...

実際にサムスンが2023年3月にChatGPTを社内利用したことによる情報漏えいを報告。ソースコードと会議内容が流出したそうです。

ソースコードはChatGPTを使ってより効率的でバグのないコードの回答を求めたことによるもの。会議内容は議事録作成のために文章を要約するために使用した様子です。

前者は業種・職種が限られますが、後者の議事録についてはあらゆる会社で活用が期待されるため、リテラシーが低いユーザーがリスクに気付かずに情報を入力してしまう可能性が高いです。

不正アクセスによる情報漏えいリスク

これはChatGPTに限った話ではありませんが、ChatGPTはアカウント認証して使用するものであり、送ったメッセージの履歴が残ります。

このアカウントが不正アクセスに遭い、残っていたメッセージの履歴に機密情報や個人情報が書かれいたらそこから流出します。

ここでもやはり議事録作成のための使用が大きな要因になりそうです。広範囲に需要が大きい事柄ですので、パスワードが弱いユーザーが多いことが予測されます。

また、機密情報をWeb上に書く機会は通常であればそれ程多くないと思いますが、議事録を効率的に作りたいという動機から安易に入力してしまいます。

これについてはパスワードをより強固なものにし、履歴をまめに削除することで防げます。ただ、前述の通り学習してしまうので、そもそも機密情報を入力しないということが重要です。

偽ChatGPTに送信してしまうリスク

ChatGPTに送信したと思ったら~♪ ChotGPTでした~♪ チクショー!!

しょうもないネタを書いてしまいましたが、結構馬鹿にできないのがこの手の偽サイト。

検索エンジンなどからアクセスしてChatGPTと思い込んで送信したら実は偽サイトで、送信内容が偽サイトの管理者に流出してしまうケースです。

ログイン画面を表示してアカウント情報を抜かれる可能性もあります。ChatGPTを使いにログインしようとしていたわけですから、そこで得たアカウント情報はChatGPTですぐに使えてしまいます。

法人契約のChatGPT Enterpriseでリスクを回避できる

2023年8月に法人契約によるChatGPT Enterpriseがリリースされたようです。

社員のアカウントを管理できるのでシャドーIT対策になる他、利用制限もなくなります。

さらに、ここまで述べてきた学習による情報漏えいリスクがないようです。

ChatGPT Enterprise でビジネス データを所有し、管理します。 Google では、お客様のビジネス データや会話に基づいたトレーニングは行っていません。また、我々 のモデルはお客様の使用状況から学習しません。 ChatGPT Enterprise も SOC 2 に準拠しており、すべての会話は転送中も保存中も暗号化されます。新しい管理コンソールを使用すると、チーム メンバーを簡単に管理でき、ドメイン検証、SSO、使用状況に関する洞察が提供されるため、企業への大規模な導入が可能になります。

https://openai.com/blog/introducing-chatgpt-enterprise (Google翻訳)

このように、ユーザーが送信した情報は学習に使用されないことと、転送や保存に暗号化が行われるため傍受も防げます。

料金は不明

いくつか調べてみましたが、ChatGPT Enterpriseの料金はOpenAIに問い合わせないとわからないということで、事業規模などにより変わる見込みです。

一般の有料プランであるChatGPT Plusが月額29ドル、1ドル150円として4,350円なので、1ユーザーあたりの料金はそれぐらいが目安になるかと思います。結構するな。

もし導入が進んだらこの辺りの情報もお伝えできたらいいですね。

コメント

コメントする前にお読みください

プログラミングに関する質問について、詳細なコードはお答えしませんのでご了承ください。
また、迷惑コメント防止のために初回のコメント投稿は承認制です。投稿が反映されるまで少し時間がかかります。