生成AIと個人情報社員がAIに顧客情報を入れると、何が問題になるのか?
便利さの裏で、情報が会社の外へ出ている
お客様への返事を作るために、社員が名簿の一部をAIに貼り付ける。作業は早くなります。しかし、その情報がAIのサービスの側でどう扱われるかを、確かめている会社は多くありません。
個人情報保護委員会は、2023年6月2日に「生成AIサービスの利用に関する注意喚起等について」を公表しました。その中で、個人情報を扱う事業者に向けて、2つの点を確かめるよう求めています。
なぜそうなるのか:入れた時点で、目的と流れ先が問われる
注意喚起の要点を、会社の中で起きることに沿って並べると、次のようになります。
| 確かめる点 | 注意喚起の中身 | 社内で起きがちなこと |
|---|---|---|
| 利用目的 | 入れる情報が、特定した利用目的の達成に必要な範囲か | 「返事を作るため」に名簿ごと貼る |
| 返事以外の利用 | 本人の同意なく入れ、返事を作る以外に扱われると、法に反するおそれ | 学習に使う設定のまま使う |
| 事前の確認 | 学習に使わないこと等を、十分に確かめる | 社員ごとにばらばらのサービスを使う |
問題が起きるのは、社員に悪意があるからではありません。社員は便利だから使っただけです。ところが、サービスの設定や規約によっては、入れた情報がAIの学習などに使われます。そうなると、お客様から預かった情報が、預かったときの目的を超えて、会社の外で扱われることになります。
利用者の側からは、入れた後の流れは見えません。そのため、入れる前の確認がすべてになります。
なお、ここで扱うのは一般論です。個別の判断は弁護士にご確認ください。
中小企業に置き換えると
社員25人の不動産の管理会社を考えます(説明のための架空の例です)。入居者様からの問い合わせへの返事を、社員が無料のAIのサービスで作っていました。入居者様の名前や部屋番号を、そのまま貼り付けていました。
調べると、社員が使っていたサービスは3種類あり、そのうち1つは、入れた情報を学習に使う設定になっていました。この会社は、使うサービスを1つに絞り、学習に使わない設定を確かめたうえで、名前や部屋番号を記号に置き換えてから入れる決まりにしました。
自社で確かめる数字と問い
| 見る数字 | 何が分かるか |
|---|---|
| 社員が使っているAIのサービスの数 | 管理の範囲 |
| そのうち、入れた情報を学習に使う設定のもの | 情報が外で扱われる経路 |
| 顧客の情報を入れたことがある社員の数 | すでに起きている範囲 |
| 入れてよい情報の決まりの有無 | 社員が迷わず判断できるか |
- 自社の社員は、どのAIのサービスに、何を入れているか。
- その使い方は、お客様に示した利用目的の中に収まっているか。
M&A・事業DDではどう見られるか
買い手は、個人情報の扱いを法令の面から確かめます。AIのサービスに顧客の情報が入っていた場合、どのサービスに、どの範囲の情報が、いつから入っていたかを聞かれます。答えられないと、見えない危うさとして扱われます。
使ってよいサービスと、入れてよい情報の決まりを文書にしている会社は、管理の状態を示せます。売る前に、AIのサービスの一覧と、それぞれの設定を確かめた記録を残しておくことです。
動画でも解説しています
動画は近日公開します
まずは、社内で使っているAIのサービスを全部書き出します。それぞれ、入れた情報を学習に使うかどうかを、利用規約と設定画面で確かめます。使う設定のものには、顧客の情報を入れないと決めます。
社内のAIの使い方と、顧客の情報の扱いを整理したい場合は、お気軽にご相談ください。業務と管理の両方の視点から一緒に整理します。
出典・参考文献
- 個人情報保護委員会(2023)「生成AIサービスの利用に関する注意喚起等について」2023年6月2日 — 個人情報取扱事業者が生成AIに個人情報を入力する際の注意点(個人情報保護委員会の公表ページ)
このコラムは一般的なAIの利用管理の解説です。個別の経営判断は、自社の状況に合わせて行ってください。