あなたの製品のAIは誰かを困らせていないか?

次の記事

歯科医療者向けSNSの「1D」が3500万円の資金調達、歯科材料通販大手と提携し会員獲得基盤を強化

人工知能(AI)は、顧客の人生をびっくりするような新しい方法で楽にしてくれるものだと、みんなが想像している。製品開発をする側からすれば、最優先すべきは常に顧客だ。しかし、ある顧客の助けになる開発中のソリューションが、別の顧客を遠ざけてしまうという新しい問題を引き起こすことがある。

私たちには、AIを生活や事業を支える非常に優秀な夢のアシスタントだと思いたがる傾向があるが、そうとばかりは言えない。新しいAIサービスをデザインする人間は、このことを肝に銘じておく必要がある。そのサービスが、人を煩わせたり、負担に感じさせたり、悩ませたりする可能性はないか。それは誰か、どんな形によるものか。そしてそれは、直接的に顧客を襲うのか、それともその顧客と共に第三者を捲き込んでしまうのか。AIサービスを利用して顧客の仕事を楽にさせるために、他の人たちに厄介事を押しつけるようでは、結果としてブランドイメージに大きな傷を付けることになる。

私がAmy.aiを使ったときの経験を例に挙げよう。これは、エイミー・イングラムとアンドリュー・イングラムという名前のAIアシスタントを提供するサービスだ(x.aiの製品)。AIアシスタントのエイミーとアンドリューは、最大4人のスケジュールを調整できる。このサービスは、電子メールを操り、非常に困難な会議のスケジューリングを、少なくともスケジュールを立てる人間の立場で解決してくれる。

「エイミー、来週、トムとメアリーとアヌシヤとシャイビーシュと会議ができる時間を探してくれ」と言うだけでことが済むパーソナルアシスタントなら、誰だって使いたいだろう。こう命令すれば、会議室を抑えたり、全員に電子メールを送って、みんなの返事を聞いて調整をするといった雑務を負わずに済む。私自身は、エイミーを使って4人の同僚の都合がいい時間を見つけて楽ができたのだが、それが私以外の4人に苦痛を与えていたのだ。互いに都合がいい時間と場所が見つかるまで大量の電子メール攻撃にさらされたと、彼らは私を責め立てた。

自動車デザイナーは、運転支援のためのさまざまな新しいAIシステムを導入している、もうひとつのグループだ。たとえば、Tesla(テスラ)は先日、オートパイロットソフトウェアをアップデートして、AIが適当と感じたときに自動的に車線変更ができるようになった。隣の車線のほうが速いと、システムが判断したときなどが想像できる。

これを使えば高速車線に安全に入ることができるので、自分で車線変更するときと違い、ドライバーが一切の認知的負担から解放されて有り難いという考え方のようだ。だが、Teslaのシステムに車線変更を任せてしまうと、ハイウェイでレーサー気分になりたい人や、競争心を満たしたい人たちの楽しみが奪われることになる。

隣の車線を走っているドライバーは、Teslaのオートパイロットに対処せざるを得ない。Teslaがぎこちない走りをしたり、速度を落としたり、ハイウェイの常識から外れる動作を見せたりすれば、他のドライバーをイラつかせることになる。さらに、隣の車線の車が高速走行していることをオートパイロットが認識しないまま車線変更を行えば、これまた他のドライバーを怒らせてしまう。私たちには、高速車線は時速100kmで走るものという共通の認識がある。みんなが100kmで走っているところへ、なんの前触れもなく、まったく周りを見ていないかのように、時速90kmの車が割り込んでくるのだ。

あまり混雑していない2車線のハイウェイなら、Teslaのソフトウェアもうまく動作してくれるだろう。しかし、渋滞しているサンフランシスコ周辺の高速道路では、混み合った車線に針路を変えるごとに、システムはとんちんかんな操作を行い、その都度周囲のドライバーを怒らせてしまうに違いない。そんな怒れるドライバーたちと個人的な面識がなくとも、私なら十分に気を遣い、エチケットを守り、行儀よく、中指を立てられないように車線変更する。

インターネットの世界には、Google Duplexという別の例がある。これは、Androidユーザーのための、AIを使った賢いレストラン予約機能だ。消費者の意見を基に、よさそうな店のディナーを、本人に代わって予約してくれる。予約をしたい人間にとっては、これは便利なサービスだ。なぜなら、店が開いている時間に電話をかけたり、話し中のためにかけ直したりといった面倒がなくなるからだ。

ところが、電話を受ける店の従業員にとっては、厄介なツールになりかねない。システムが自分はAIであると伝えたとしても、従業員はそれに伴う、新手の、融通の利かないやりとりを押しつけられる。それでいて目的は、予約を受けるという、いたって簡単な、以前と変わらない作業だ。

Duplexは店に客を連れてきてくれるわけだが、一方では、そのシステムは店側と客との対話の幅を狭めてしまう。別の日ならテーブルが空いているかもしれないし、早めに食事を終わらせてくれるなら、なんとかねじ込むこともできるかもしれない。しかし、このような例外的な判断はシステムにはできない。AIボットは電話を受ける人を困らせるという考え方も、じつは正しくないようだ。

顧客の生活を楽にしてあげたいと考えるのなら、あなたが夢見る支援のかたち以上に、主要顧客に関わる他のすべての人たちにとって、それが悪夢になりかねないことを考慮しなければいけない。あなたのAI製品に関わる人たちが不快な体験をしたかもしれないと少しでも疑いを持ったなら、周囲の人たちを怒らせずに顧客を喜ばせることができる、より良い方法を、さらに追求するべきだ。

ユーザーエクスペリエンスの観点に立てば、カスタマージャーニーマップは、主要顧客の行動、思考、感情の体験、つまり「バイヤーペルソナ」を知るうえで役に立つ。あなたのシステムと、直接の顧客ではない、何も知らない第三者との接点を特定するのだ。あなたの製品のことを知らないこれらの第三者のために、彼らとあなたのバイヤーペルソナとの関わり方、特に彼らの感情体験を探る。

欲を言えば、そのAI製品の周囲にいる人たちも十分に喜ばせて、購入を見込める顧客へと引き込み、やがては製品を購入してくれることを目指したい。また、エスノグラフィー(生活様式を理解し、行動観察・記録すること)を使って、何も知らない第三者とあなたの製品との関係を分析することもできる。

これは、プロセスに関わるときと、製品に関わるときの人々の観察結果を総合させる調査方式だ。

この調査の指標となるデザイン上の考え方には「私たちのAIシステムは、製品に関わるすべての人の助けとなり、もっと知りたいと思わせるよう働かせるには、どうしたらいいか?」というものが想定できる。

これはまさに人類の知性だ。人工物ではない。

【編集部注】著者のJames Glasnappは、パロアルト研究所上級ユーザーエクスペリエンス研究者。

[原文へ]

(翻訳:金井哲夫)