日本財団(団体)

Googleが手話認識技術開発で協力、ゲーム感覚で手話を学びろう者への理解を深める「手話タウン」をプレイしてみた

次の記事

ウォルマートがフォード、Argo AIと共同で自律走行車の配送サービスを開始

9月23日は「手話言語の国際デー」だ。これは、手話言語(以下、手話)が音声の言語と対等であることを認め、ろう者の人権が保証されることを目的に、国際連合が2017年12月19日に決議したもの。手話について意識を新たにする日となる。

とはいえ、「手話はよくわからない」「やったことがない」「学んだものの試す機会がない」という人も少なくないだろう。

そのような人たちにぜひとも試してもらいたいのが手話学習オンラインゲーム「手話タウン」だ。

手話タウンとは?―日本財団が香港中文大学・関西学院大学・Googleの協力によって開発

手話タウンとは、公益事業をサポートする社会貢献財団「日本財団」が、香港中文大学、関西学院大学、Googleの協力によって開発したウェブブラウザー上でプレイできるゲーム。現在はベータ版だが、手話言語の国際デーに正式公開することを目指してテストや開発が進められている

香港中文大学はプロジェクト全体の日本財団との共同統括、手話言語学における学術的見地からの監修、手話データの収集、ろう者に関する知見の提供を、関西学院大学は日本手話の学習データ収集とろう者に関する知見の提供、Googleはプロジェクトのコンセプト立案、AIによる手話認識技術の研究開発をするといった役割を担う。日本財団は、手話・ろう者についての知見の提供ならびに開発に必要な資金の提供を行っている。

また手話タウンプロジェクトでは、2Dしか認識できない一般的なカメラでも立体的な手話の動きを、上半身、頭、顔、口も含めて認識できる機械学習モデルを開発。日本と香港で手話を日常的に使用しているろう者の手話映像データを収集し、学習させることで、手話学習者が正しく手話を表現できているかの判断を可能にしているという。基盤となっている手話認識技術はTensorFlowを活用し3つの機械学習モデル(PoseNet、Facemesh、ハンドトラッキング)を組み合わせており、ソースコードについてはオープンソースとして公開している。

ウェブカメラ、PCとウェブブラウザー、そして手話を学びたい心があればすぐに始められる

ゲームに必要なのは、ウェブカメラを搭載してネットに接続されているPCとウェブブラウザー、そして手話を学びたいという心だ。アカウントの登録も、課金も必要ない。また、あらかじめ手話を覚えておく必要もない。

手話タウンにAndroidおよびiOSのウェブブラウザーでアクセスしたところ、PC用ブラウザーを利用するようメッセージが表示された

手話タウンにAndroidおよびiOSのウェブブラウザーでアクセスしたところ、PC用ブラウザーを利用するようメッセージが表示された

プレイヤーは手話タウンと呼ばれる架空の町を旅行しながら、少しずつ手話のアイテムを集めていく。例えば、色や服飾小物、食べ物などだ。

学べる手話は、日本手話と香港手話のいずれか。小学生の頃に手話に親しんだ筆者が、ベータ版手話タウンに挑戦してみた。選んだ手話言語は日本語手話だ。

荷づくりからチェックインまで体験

手話タウンにアクセスしたら、まずは表示する言語を選ぼう。日本語、英語、中国語(繁体字)から選べる。

ついで、手話言語を日本語手話と香港手話のいずれかを選ぶ。

ゲームは、出発前の荷づくりからスタートする。アイテムをどんどん選んでいき、荷造りを完成させる。なお、始めると、2つのアイテムを示す「お手本動画」が流れる。どちらかを手話で表現することで、アイテムを「選んで」いける。

2つのお手本動画が同時に流れるので、最初は自分にとってわかりやすいものを選ぼう。「できた」という達成感が重要なのだ

正しく手話を表現できると「手話で表そうとしたのは……?○○?」と表示され、その手話が表すアイテムの“バッジ”を集められる。表現が不明瞭だと「ごめんなさい!どの手話単語か分かりませんでした。」と表示される。スキップすることも、やり直すことも可能だ。

正しく表現できると「手話で表そうとしたのは……?○○?」と表示される。意図したものであれば「はい」を選んで次へ進もう

「腕時計」「ハイヒール」をなかなか表現できず、心が折れそうになる場面も

ゲームは、アイテムのバッジを集めていくことで進んでいくが、途中で次の場面に移動することも可能。もっとも、挑戦中のステップを完成させたほうが達成感を味わえるのは言うまでもない。

荷づくりのステップで集められるアイテムは6つだが、何回もチャレンジすれば、覚えられる手話単語はその倍の12に増やせる

ゲーム内では、手話タウンにあるレストランで食事をし、ホテルにチェックインするところまで体験する。レストランではメイン料理名、食材、飲み物などの手話単語を、ホテルでは喫煙・禁煙室、現地払い、カード払いといった、実際に宿泊する際に必要になる手話単語を覚えられる。

ゲームが進むにつれ、表現が複雑になってくるのだが、何度もお手本動画を確認したり、カメラに向かって表現することでクリアできるようになる。

また、何度もプレイしているうちに、「なぜワインは『3』を表す指で表現するのだろう」「なぜレモンは……」などと疑問が浮かんでくることだろう。能動的に調べることで、「そういうことか」と謎が解け、もっと手話を学びたいと思うようになるかもしれない。

ろう者についてもっと知ることができる工夫も

手話タウンでは、手話単語だけでなく、ろう者の文化を学べる工夫もなされている。場面が進んだときに現れる白いキャラクターをクリックすると、目覚ましのアラームはどうしているのか、ろう者がいたらどのように声がけすればいいかといったプチ情報が表示され、ろう者への理解を深めるのに一役買っている。

白いキャラクターのうち、線が赤く点滅しているものをクリックしてプチ情報を表示できる

ノックの代わりに電気を点けたり消したりする、という目からうろこの情報

各場面でのプチ達成感が、手話を学びたいという意欲をかきたてる

まだベータ版ということもあり、「荷づくり」「食事」「宿泊」の3場面だけだが、各場面をコンプリートしたときに得られるプチ達成感が、手話を学びたいという意欲をかきたてる。

なお、手話は手だけでなく、顔の表情や上半身も使う。そのため上半身全体が収まるよう、カメラとの距離が必要になる。また、AIが表現した手話を認識しやすいよう、プレイするときには柄物より無地に近い服を選んだほうがよいだろう。さらに、手話を表現するときに、それが表す単語を口にすると、口の形も読み取れるため認識率がアップする。

手話タウンにチャレンジする人が増えることで、ろう者への理解が深まり、手話への抵抗感が少ない社会の醸成されることが期待したい。