Column / AIと経営

生成AIと個人情報

AIと経営

生成AIと個人情報社員がAIに顧客情報を入れると、何が問題になるのか?

動画で見る ↓

便利さの裏で、情報が会社の外へ出ている

お客様への返事を作るために、社員が名簿の一部をAIに貼り付ける。作業は早くなります。しかし、その情報がAIのサービスの側でどう扱われるかを、確かめている会社は多くありません。

個人情報保護委員会は、2023年6月2日に「生成AIサービスの利用に関する注意喚起等について」を公表しました。その中で、個人情報を扱う事業者に向けて、2つの点を確かめるよう求めています。

なぜそうなるのか:入れた時点で、目的と流れ先が問われる

注意喚起の要点を、会社の中で起きることに沿って並べると、次のようになります。

確かめる点 注意喚起の中身 社内で起きがちなこと
利用目的 入れる情報が、特定した利用目的の達成に必要な範囲か 「返事を作るため」に名簿ごと貼る
返事以外の利用 本人の同意なく入れ、返事を作る以外に扱われると、法に反するおそれ 学習に使う設定のまま使う
事前の確認 学習に使わないこと等を、十分に確かめる 社員ごとにばらばらのサービスを使う

問題が起きるのは、社員に悪意があるからではありません。社員は便利だから使っただけです。ところが、サービスの設定や規約によっては、入れた情報がAIの学習などに使われます。そうなると、お客様から預かった情報が、預かったときの目的を超えて、会社の外で扱われることになります。

利用者の側からは、入れた後の流れは見えません。そのため、入れる前の確認がすべてになります。

なお、ここで扱うのは一般論です。個別の判断は弁護士にご確認ください。

中小企業に置き換えると

社員25人の不動産の管理会社を考えます(説明のための架空の例です)。入居者様からの問い合わせへの返事を、社員が無料のAIのサービスで作っていました。入居者様の名前や部屋番号を、そのまま貼り付けていました。

調べると、社員が使っていたサービスは3種類あり、そのうち1つは、入れた情報を学習に使う設定になっていました。この会社は、使うサービスを1つに絞り、学習に使わない設定を確かめたうえで、名前や部屋番号を記号に置き換えてから入れる決まりにしました。

自社で確かめる数字と問い

見る数字 何が分かるか
社員が使っているAIのサービスの数 管理の範囲
そのうち、入れた情報を学習に使う設定のもの 情報が外で扱われる経路
顧客の情報を入れたことがある社員の数 すでに起きている範囲
入れてよい情報の決まりの有無 社員が迷わず判断できるか
  1. 自社の社員は、どのAIのサービスに、何を入れているか。
  2. その使い方は、お客様に示した利用目的の中に収まっているか。

M&A・事業DDではどう見られるか

買い手は、個人情報の扱いを法令の面から確かめます。AIのサービスに顧客の情報が入っていた場合、どのサービスに、どの範囲の情報が、いつから入っていたかを聞かれます。答えられないと、見えない危うさとして扱われます。

使ってよいサービスと、入れてよい情報の決まりを文書にしている会社は、管理の状態を示せます。売る前に、AIのサービスの一覧と、それぞれの設定を確かめた記録を残しておくことです。

動画でも解説しています

動画は近日公開します

まずは、社内で使っているAIのサービスを全部書き出します。それぞれ、入れた情報を学習に使うかどうかを、利用規約と設定画面で確かめます。使う設定のものには、顧客の情報を入れないと決めます。

社内のAIの使い方と、顧客の情報の扱いを整理したい場合は、お気軽にご相談ください。業務と管理の両方の視点から一緒に整理します。

お問い合わせはこちら →

出典・参考文献

  1. 個人情報保護委員会(2023)「生成AIサービスの利用に関する注意喚起等について」2023年6月2日 — 個人情報取扱事業者が生成AIに個人情報を入力する際の注意点(個人情報保護委員会の公表ページ)

このコラムは一般的なAIの利用管理の解説です。個別の経営判断は、自社の状況に合わせて行ってください。

まずは、初回のご相談から。

初回のご相談は無料です。内容の秘密は守ります。

お問い合わせはこちら →