Column / AIと経営

修正できる余地

AIと経営

修正できる余地少しだけ手直しできると、なぜAIは使われるのか?

動画で見る ↓

「そのまま使え」では、道具は根づかない

AIの予測や下書きを「そのまま使ってほしい」と言うと、社員は身構えます。外れたときに自分の責任になるのに、自分の考えを入れる余地がないからです。別のコラムで扱った「アルゴリズム嫌悪」では、人が、一度外れるのを見た計算式を使わなくなる仕組みを見ました。

その続きとして、バークリー・ディートフォースト、ジョセフ・シモンズ、ケイド・マッシーは、2018年の論文で、完璧でない計算式(アルゴリズム)を人に使ってもらう方法を、3つの実験で調べました。答えは、計算式の予測を、人が自分で少しだけ直せるようにすることでした。

なぜそうなるのか:少しでも直せると、道具を信じ始める

実験では、参加者が、自分の予測と、統計の計算式の予測のどちらを使うかを選びました。

条件 起きたこと 意味
計算式の予測を直せない 計算式を避ける人が多い 外れの責任だけを負わされる感覚
計算式の予測を直せる 計算式を使う人がかなり増え、成績も上がった 自分の考えを入れる余地がある
直せる幅をごく小さく絞る それでも使う人は多いまま 直す量より、直せること自体が効く
直せる形で使った後 満足が増え、計算式を良いと思い、次も使う 信頼が育つ

論文は、人が求めていたのは予測の結果への「少しの」関わりであって、「大きな」関わりではなかったと論じました。直せる幅が大きくても小さくても、計算式を選ぶ人の多さはあまり変わらなかったからです。

会社に当てはめると、AIを根づかせるために、社員に大きな裁量を渡さなくてもよいことになります。実験の結果からは、直せる場所が少しあるだけで、道具を使う人が増えると読めます。

中小企業に置き換えると

店を6つ持つ、社員40人の弁当の製造販売の会社を考えます(説明のための架空の例です)。AIが翌日の店ごとの仕込みの量を予測しますが、店長たちは使わず、自分の勘で決めていました。

社長は、AIの予測に、店長が上下1割の範囲で手を入れられる欄を作りました。AIの予測が100食なら、90〜110食の間で店長が決めます。店長は、近くの行事や天気の見込みを入れて直すようになりました。直した記録が毎月たまると、どんな日に直すと当たるかが、店長どうしで共有されるようになりました。

自社で確かめる数字と問い

見る数字 何が分かるか
AIの出力を、社員がそのまま使っている割合 根づいているか
社員が直した件数と、直した理由 どこに現場の知恵があるか
直した場合と直さない場合の当たり外れ 直しの効き目
直してよい幅の決まり 任せる範囲がはっきりしているか
  1. 自社のAIやシステムに、社員が自分で直せる場所はあるか。
  2. 直した記録は残り、次に生かされているか。

M&A・事業DDではどう見られるか

買い手は、AIやシステムの導入の状況を、使われている割合と、現場の関わり方から確かめます。現場が直した記録が残っている会社は、道具と現場の知恵が組み合わさっていると見られます。

反対に、導入はしたが現場が別のやり方を続けている会社は、定着に課題があると見られます。売る前に、直せる幅の決まりと、直した記録をそろえておくことです。

動画でも解説しています

動画は近日公開します

まずは、AIが出した数字や文章に、社員が手を入れられる欄を作ります。直してよい幅を、例えば数量の上下1割のように決めます。直した内容と、その結果を毎月記録します。

AIを社員が使い続ける仕組みを整えたい場合は、お気軽にご相談ください。業務とAIの両方の視点から一緒に整理します。

お問い合わせはこちら →

出典・参考文献

  1. Dietvorst, B. J., Simmons, J. P., & Massey, C. (2018). Overcoming Algorithm Aversion: People Will Use Imperfect Algorithms If They Can (Even Slightly) Modify Them. Management Science, 64(3), 1155–1170. — 修正できる余地とアルゴリズムの利用(DOI: 10.1287/mnsc.2016.2643)

このコラムは一般的な行動経済学の解説です。個別の経営判断は、自社の状況に合わせて行ってください。

まずは、初回のご相談から。

初回のご相談は無料です。内容の秘密は守ります。

お問い合わせはこちら →