修正できる余地少しだけ手直しできると、なぜAIは使われるのか?
「そのまま使え」では、道具は根づかない
AIの予測や下書きを「そのまま使ってほしい」と言うと、社員は身構えます。外れたときに自分の責任になるのに、自分の考えを入れる余地がないからです。別のコラムで扱った「アルゴリズム嫌悪」では、人が、一度外れるのを見た計算式を使わなくなる仕組みを見ました。
その続きとして、バークリー・ディートフォースト、ジョセフ・シモンズ、ケイド・マッシーは、2018年の論文で、完璧でない計算式(アルゴリズム)を人に使ってもらう方法を、3つの実験で調べました。答えは、計算式の予測を、人が自分で少しだけ直せるようにすることでした。
なぜそうなるのか:少しでも直せると、道具を信じ始める
実験では、参加者が、自分の予測と、統計の計算式の予測のどちらを使うかを選びました。
| 条件 | 起きたこと | 意味 |
|---|---|---|
| 計算式の予測を直せない | 計算式を避ける人が多い | 外れの責任だけを負わされる感覚 |
| 計算式の予測を直せる | 計算式を使う人がかなり増え、成績も上がった | 自分の考えを入れる余地がある |
| 直せる幅をごく小さく絞る | それでも使う人は多いまま | 直す量より、直せること自体が効く |
| 直せる形で使った後 | 満足が増え、計算式を良いと思い、次も使う | 信頼が育つ |
論文は、人が求めていたのは予測の結果への「少しの」関わりであって、「大きな」関わりではなかったと論じました。直せる幅が大きくても小さくても、計算式を選ぶ人の多さはあまり変わらなかったからです。
会社に当てはめると、AIを根づかせるために、社員に大きな裁量を渡さなくてもよいことになります。実験の結果からは、直せる場所が少しあるだけで、道具を使う人が増えると読めます。
中小企業に置き換えると
店を6つ持つ、社員40人の弁当の製造販売の会社を考えます(説明のための架空の例です)。AIが翌日の店ごとの仕込みの量を予測しますが、店長たちは使わず、自分の勘で決めていました。
社長は、AIの予測に、店長が上下1割の範囲で手を入れられる欄を作りました。AIの予測が100食なら、90〜110食の間で店長が決めます。店長は、近くの行事や天気の見込みを入れて直すようになりました。直した記録が毎月たまると、どんな日に直すと当たるかが、店長どうしで共有されるようになりました。
自社で確かめる数字と問い
| 見る数字 | 何が分かるか |
|---|---|
| AIの出力を、社員がそのまま使っている割合 | 根づいているか |
| 社員が直した件数と、直した理由 | どこに現場の知恵があるか |
| 直した場合と直さない場合の当たり外れ | 直しの効き目 |
| 直してよい幅の決まり | 任せる範囲がはっきりしているか |
- 自社のAIやシステムに、社員が自分で直せる場所はあるか。
- 直した記録は残り、次に生かされているか。
M&A・事業DDではどう見られるか
買い手は、AIやシステムの導入の状況を、使われている割合と、現場の関わり方から確かめます。現場が直した記録が残っている会社は、道具と現場の知恵が組み合わさっていると見られます。
反対に、導入はしたが現場が別のやり方を続けている会社は、定着に課題があると見られます。売る前に、直せる幅の決まりと、直した記録をそろえておくことです。
動画でも解説しています
動画は近日公開します
まずは、AIが出した数字や文章に、社員が手を入れられる欄を作ります。直してよい幅を、例えば数量の上下1割のように決めます。直した内容と、その結果を毎月記録します。
AIを社員が使い続ける仕組みを整えたい場合は、お気軽にご相談ください。業務とAIの両方の視点から一緒に整理します。
出典・参考文献
- Dietvorst, B. J., Simmons, J. P., & Massey, C. (2018). Overcoming Algorithm Aversion: People Will Use Imperfect Algorithms If They Can (Even Slightly) Modify Them. Management Science, 64(3), 1155–1170. — 修正できる余地とアルゴリズムの利用(DOI: 10.1287/mnsc.2016.2643)
このコラムは一般的な行動経済学の解説です。個別の経営判断は、自社の状況に合わせて行ってください。