アップルの再発明、新iPadOSマウスカーソル開発秘話

次の記事

AIソングコンテスト優勝は、容赦なく楽観的な楽曲

Apple(アップル)はマウスポインタを発明したわけではないが、マウスポインタの存在を世に知らしめ、一般に使用されるまでにした会社であることは確かだ。Xerox Parc(ゼロックスパロアルト研究所)で開発され、その後アップルのSusan Kareによる伝説的なアイコンデザインによって身近な存在になったマウスポインタは、これまで約40年にわたり、コンピュータ空間においてユーザーの分身のような役割を果たしてきた。

ポインタの矢印はいつも画面上でスタンバイしている。少し傾き、直線的な45度の傾斜によりピクセル単位でポイントできるようになっていて、約30センチメートル離れた場所から画面上の小さなターゲットをクリックする精密さを備えている。元々のカーソルは点だったが、後に、真っ直ぐ上向きの線になった。この形のカーソルは「Mother of all demos」と呼ばれるデモで披露された。約1時間半にわたるこのデモでは、世界初のマウスの実演だけでなく、ハイパーリンク、ドキュメントの共同作成、ビデオ会議などのデモも行われた。

しかし、このデモの主役は何といっても、線状に並ぶピクセルで形成されたマウスカーソルだった。これによって、マシンの中に人間の動きが初めて埋め込まれたのだ。タイプライターの動きをまねて1文字ずつ入力していくそれまでのテキスト入力モデルとは異なり、このカーソルは、コンピュータ初期時代の人と文字をつなぐものになった。このとき初めて、画面の中に、ぎこちないながらも人の動きを反映させる仕組みが生まれたのだった。

黎明期のマウスカーソル

Doug Engelbart氏が描いた「真っ直ぐ上向きの矢印」のポインタが、私たちが今使っているような、一定角度で傾く矢印の形になった理由はよくわかっていない。もっともらしい憶測は多々あるが、本当のところはわからない。わかっているのは、スタートラインで前傾姿勢をとるアスリートのように、矢印ポインタはゴールに向けて飛躍しようと数十年にわたりスタンバイしていたということだ。しかし、ここ数年間のタッチデバイスの台頭にともない、生身の新人スプリンターが現れた。人の指である。

iPhone、そして続くiPadも、カーソルを再発明するどころか、それをまったく排除した。コンピュータ空間におけるユーザーのアバターたるカーソルが、現実世界の指先に取って代わられたのである。タッチ操作ではユーザーの意図とアクションが直結している。タッチ操作で何かに触れると、何かが起こる。指をドラッグすると、触れている対象がいっしょについてくる。ついに、人間主導のコンピューティングが実現されたのだった。

ところが3月、アップルはこれまでになかったタイプのポインタを発表した。ピクセル操作と指操作の中間に位置するハイブリッド型ポインタである。この新しいiPadカーソルは、世界で最も注目されるアイデア工場のアップルが考え出した、独創的なリミックスだ。詳しく調べてみるに値する。

この最新カーソルとそのインタラクションモデルについて詳しく知るため、アップルのチームが開発の過程で行った選択のいくつかについて、アップル上級副社長のCraig Federighi(クレイグ・フェデリギ)氏に話を聞いた。最初に、この最新カーソルがこれまでのものと大きく異なっているのに、ユーザーに不思議な親近感を抱かせる理由について見ていこう。

—————————

新しいiPadカーソルは小さな円形である。これは画面のタッチセンサーが指先を読み取る方法を形にしたものだ。この時点ですでに今までのカーソルとは異なる。タッチの物理的な性質と、マウスという1ステップを省いたトラックパッド体験と融合させて、コンピュータの中にアバターとして人の操作を組み込むという考え方を一歩進めている。

新しいマウスカーソル

このサイズと形状はiPadのユーザーインターフェイスの性質ともよく合っている。タッチファースト(タッチ操作優先)エクスペリエンスとして一から設計されたものだ。そのため、アプリがタッチファーストに合わせて正しく最適化されていないとぎこちない動きになる。人の指のアバターであるこのカーソルは、どこに移動しても指と同じように動く。

正直なところ、ここでやめることもできただろうし、それでも十分だったと思う。「まるで指のように動くポインタ」を実現できたのだ。しかしアップルは、この概念をさらに進化させた。ボタンなどのインタラクティブな要素に近づくと、円形ポインタがまるで自分から手を伸ばすかのように対象にタッチし、その対象を取り込んで一体化するのだ。

アップルはここで、カーソルの移動速度を変えるというアイデアもさらに進化させている。画面上のオブジェクトに近づくと、カーソル移動が加速し、吸い付くように対象に到達する。ただし、線形的に一律に変速するのではなく、状況に応じて変速する。macOSやWindowsの動作と同じだ。

カーソルを対象まで正確に動かさなくても、予測計算によって移動先に到達し、その後、少しの慣性付加により、行き過ぎることなくその場所に留まることができる。アイコン上にいるときは、指を小さく動かすとアイコンが揺れるので、カーソルがそこにあるとわかる。

動かすのをやめるとカーソルは消える。タッチ操作で指を画面から放すと指先の圧が消えるのと同じだ。さらに、カーソルが要素自体と一体化してボタンになり、淡く光を放つ場合もある。

マウスカーソルのイメージ画像

このように、移動先の予測、アニメーション、物理特性に、遊び心というスパイスを加えて料理すると、「手を伸ばして何かに直接触れる」という、人が無意識に行う動作の感覚を可能な限り再現する操作が出来上がる。

デザイン業界ではこれを「アフォーダンス」と呼ぶ。アフォーダンスとは、指を使うと簡単なのにタッチパッドだと基本的に難しい操作を、タッチパッドでも簡単にできるようにすることだ。いつもiPadを使っている子どもにマウスで同じ作業をやらせてみて観察すると、この点がはっきり理解できる。

カーソルがコンテキストに応じて滑らかに変化するという考え方は別段新しいものではない。Iビーム(編集可能なテキスト上に移動すると表示されるI字型カーソル)がそのよい例だ。マウスの生誕地ゼロックスパロアルト研究所による初期の実験でも形状が変化するカーソルが使用された。その実験ではカーソルの色を変化させるという試みも行われたが、まるでキーボードの機能と同じように、画面上の要素をインタラクティブオブジェクトとして扱うという概念まではたどり着かなかった。

とはいえ、今回の新しいiPadカーソルはこれまでのカーソルとはまったく違う。指を動きについてくるだけでなく、拡大・縮小したり、ブロブになったり、加速したり停止したりする。これまでのカーソルにはなかった独創的なアイデアだ。

—————————

アップルがリリースするものは毎回、詳細に調査されることが普通なので、今回のiPadカーソルがそれほど話題にならないのはちょっとした奇跡だ。既存のiPad以降のソフトウェアアップデートとしてカーソルがリリースされたとき、ユーザーたちはすぐに使い始めて、これまでのカーソルと挙動が大きく異なっていることに気づいた。

アップル社内では、カーソル開発チームが、「アップルはどうやら割と標準的な路線に従って、iPadの画面にポインタを表示させようとしているらしい」という憶測が世間でささやかれているのを眺めて楽しんでいた。そして、そのような憶測を逆手にとって、もっとリッチな機能、つまりMagic Keyboardと組み合わせたソリューションを実現しようとしていた。うわさでは、アップルがiPadOSにカーソルのサポートを追加するらしいということだったが、それはiPad をノート型の挙動にできるだけ近づけるためのもので、従来と同じようなポインタになるだろうと、発表の瞬間まで考えられていたのである。

2018年にスマートコネクタが搭載されたiPad Proが登場して以来、iPad Proを日常的に使うユーザーたちは「本物の」専用キーボードが発表されることを待ち望んでいた。筆者が新しいiPad Proを手に入れたときのレビュー記事でSmart Keyboard Folioについて書いたものと、Magic Keyboardについて書いた記事を読み返してみたが、ここでは、新デザインはキーボードを頻繁に使うユーザーにとっては素晴らしいものだというに留めておこう。もちろん、世界最高クラスのトラックパッドも付いている。

Apple製のトラックパッド

アップルのチームが新しいカーソルの開発に際して目指したのは、本当のポインタであるかのような使用感を、iPadの理念と本質を崩さずに実現することだった。

開発プロセスにおいて大前提とされたのは次の2点だ。

  • iPadはタッチファーストである。
  • iPadはアップル製品の中で最も多目的なコンピュータである。

ある意味、新しいiPadOSカーソルの開発は、2015年のApple TVのインターフェイスの刷新から始まったといってもよい。iPadOSとApple TVのカーソルの挙動がいくらか似ていると感じた人が多いはずだ。あるポイントから別のポイントにジャンプして移動するという動きも、ボタンの上に指をかざすようにするとボタンが少し輝くという動きも、見覚えがあるだろう。

「さまざまな要素がどのように連携するかを、正しく把握するための道のりがあった。不必要なレベルの精度を伝えない、あくまでタッチ中心のカーソルが必要であることはわかっていた。Apple TVと同様のフォーカス体験(カーソルを重ねた部分が目立つ演出)が、楽しい方法で応用できることもわかっていた。テキストを処理するためには、より大きなフィードバック(操作感覚)を提供したいと考えていた」とフェデリギ氏は語る。

「iPadOSの開発経緯に関して気に入っているのは、非常に多くのソースから方法を引き出したという点だ。tvOSでの作業、Macでの長年の作業、およびiPhone Xと初期のiPadでの開発から体験を引き出すことで、iPad上で本当に自然に感じられる新しいインターフェイスを生み出すことができた」(フェデリギ氏)。

iPadカーソルの着想に寄与したのはApple TVのインターフェイスだけではなかった。カーソル開発を担当するメイン設計チームは、Apple TV、iPadOS、その他の製品のグループと横断的に共同作業をしているという。

—————————

この開発プロセスを理解するには、ユーザーがアップル製デバイスを操作する際のオプションに関する全体像をつかむ必要がある。

アップルのデバイスには以下の入力方法がある。

  • マウス (Mac)
  • タッチパッド (Mac、MacBook、iPad)
  • タッチ操作 (iPhone、iPad)
  • AR (iPhone、iPad、今はまだ初期段階)

どの入力方法にも状況に応じて一長一短がある。当然ながら指は、入力機器としては精度が低い。開発チームはこの「指」という入力機器の精度の低さをユーザーに伝える必要があることを認識していたが、同時に、精度が必要とされるコンテキストに対応しなければいけないことも理解していた。

選択された映画ポスターの動き

Image:Jared Sinclair/Black Pixel

アップルはこれまでの常識にとらわれないアプローチをとった。開発チームは、目的達成に必要な材料がすでに手元にあることはわかっていた。目指すのはタッチ操作に対応するカーソルで、Apple TVのカーソルから有力な着想が得られそうなこと、また、テキスト入力についてはよりインタラクティブなフィードバック (操作感覚) が重要であることもわかっていた。

どの要素をどこに、どのように適用するのかが最大の難問だった。

「カーソル開発を始めたころ、例えばホーム画面上でアイコンにアクセスする場合など、高い精度が不要なときには指を使った自然で簡単な操作感を実現する必要があり、それと同時に、テキスト編集などの高い精度を必要とするタスクにも自然に移行できるようにする必要がある、と考えた」とフェデリギ氏は語る。

「そこで、目の前のタスクを実行するためにエレガントに変容する円カーソルを思いついた。例えば、ボタンの周りではフォーカスを示すよう変形したり、変形して別のボタンにジャンプしたり、テキスト選択ではIビーム(I字型カーソル)になる。状況に応じてより精度の高い形状に変わるようにした」(フェデリギ氏)。

新iPadOSのマウスカーソル

「精度の低いタッチ操作から精度の高い操作へどのように移行させるか」という問題を解決するのが、カーソルの予測移動だ。

しかし、開発チームは、どのような状況で高い精度が要求されるのかを考える必要があった。例えば、ある要素にアクセスしたいが、すぐ近くの別の要素を通過する必要がある場合などだ。そこで登場するのが、慣性とスナッピングである。iPadは厳密には多目的コンピュータなので、単一入力デバイスよりもはるかに複雑だ。iPad上でカーソルを実装するとなると、複数の入力方式に対応させなければならない。しかも、数百万のユーザーたちが主に使用するタッチインターフェイスを通してこれまでに学んできた操作知識を無駄にしないようにする必要がある。

「基本的にはUIを変えることなく、タッチファーストを維持することを考えてカーソルの設計に着手した。iPadでトラックパッドを使わないユーザーは何も新しいことを学ぶ必要はなく、タッチ操作とトラックパッドを切り替えながら使うユーザーたちにも使いやすいインターフェイスを目指した」とフェデリギ氏は語る。

iOSの挙動の中核となっている滑らかさと同じ感覚を新しいiPadカーソルでも実現する必要があることを認識していたチームは、点からIビーム、さらにはブロブへと変化するアニメーションを採用した。アニメーションの速度が下がると、カーソルはベジェ曲線を描き、新しい外観へと滑らかに変化する。これはユーザーを楽しませるという目的を果たすだけでなく、カーソルの移動先も教えてくれる。これにより、ユーザーはブロブのアクションと同期のとれた状態に維持されるのだが、ユーザーのアバターに少しでも自立性を導入しようとする場合、この方法には常に危険がともなう。

アイコンと重なるマウスカーソル

カーソルがアイコンと重なると、アイコンはわずかに視差分だけ移動する。ただし、この移動はシミュレートされたものだ。Apple TVのようなレイヤーは存在しないが、見ていて楽しい。

テキスト編集もアップグレードされている。I字型カーソルは編集中のテキストと同じサイズになり、カーソルが挿入される場所と、入力を開始したときに生成されるテキストのサイズが非常にわかりやすくなっている。

ウェブサイトにも独特の難しさがあった。ウェブ標準はオープンであるため、ホバー要素とその挙動がサイトごとに異なっていることが多い。このため開発チームは、iPadOSとそのカーソルのルールにどの程度従うべきかを決める必要があった。これについては、そうした要素の適用を一律に決めることはしないという方法が採用された。ウェブサイトに組み込まれている要素を尊重する必要があったからだ。

要するに、各ウェブサイトがアップルに合わせてコードを書き換えることなどないとわかっていたのだ。

「こうした要素すべてをどこに適用すべきかを完璧に見極めるのは興味深い作業だった。例えば、ウェブサイトではあらゆることが起こり得る。サイト独自のホバー体験が提供されることもあれば、要素のクリック可能領域とユーザーが選択可能と思っている領域とが一致しない場合もある。だからこそ、どこにどのようなフィードバックを提供するのかを慎重に検討して、ウェブサイトやサードパーティ製アプリと最初から高レベルの互換性が確保されるようにした」とフェデリギ氏は語る。

標準のiPadOS要素を使ったサードパーティ製アプリでは、当然、何もしなくてもこれらの処理が実行される。つまりそのままで動く。カスタム要素を使ったアプリの実装も極めてシンプルだ。スイッチを入れるだけというわけにはいかないが、難しい作業は必要ない。

iPadカーソルのサポートに対する反応はこれまでのところ大いに良好だ。おかげで勢いに弾みが付いている。一定数のiPad Proユーザーが使用している知名度の高い生産性ツールスイートは、間違いなくアップデートされるだろう。一例として、マイクロソフトでは、今秋出荷予定のOffice for iPadでiPadカーソル対応を実現すべく準備を進めている。

—————————

システムジェスチャーも新鮮な感じで、離れたタッチパッド上で操作しても反応する。フリックやスワイプなどのジェスチャーは、ある意味、画面上よりもタッチパッドなどの水平面で行ったほうが効果的で便利な感じがする。個人的には、画面とキーボード間を行き来してワークスペースを切り替えるという操作は、認知的な消耗が非常に大きいように感じる。さらに、腕を持ち上げた状態でスワイプして約30センチメートルも離れた場所にあるワークスペースを切り替えるという操作も、長期間続けていると、疲労が蓄積するだろう。

トラックパッド上でジェスチャーを行ったほうが、より直接的で、物理的な移動空間が小さく、疲れも少ない。

「iPadの大半のジェスチャーはMacのジェスチャーと同じなので、ジャスチャーについて考えたり、新たに覚え直したりする必要はない。ただし、iPad上のほうがジェスチャーに対する反応が直接的で、すべてがつながっていて楽に感じられる」とフェデリギ氏はいう。

iPadの最初のマルチタスクジェスチャーは奇妙な副産物という感じがしたことを思い出してほしい。最悪の場合まったく役に立たず、せいぜい好奇心をくすぐる面白そうなものという程度だった。今、ホームボタンのないiPad Proで、iPhone Xの開発チームによって成し遂げられた仕事は素晴らしい輝きを放っている。このシステムジェスチャーは有用性が高く、トラックパッド上でも機能するという点は注目に値する。間接的に画面にタッチしている感じだ。

フェデリギ氏によると、3本指ジェスチャーはいちから作り直そうと思っていたのだが、そのままでも使えることに気づいたという。画面の端を越えてしまうようなケースでは、再度、端を超える操作をして確定すれば、同じ結果が得られる。

iPadのカーソルパラダイムにはまだ欠落している部分がある。iPad上でのカーソルロックはサポートされていないため、1人称視点ゲームなどの3Dアプリでの相対的マウス移動では使えない。これから間違いなく改良が施されると思うが、その辺りについて筆者が問い合わせたところ、アップルからコメントは得られなかった。

新しいiPadカーソルはこれまでの成果を基に生み出されたものだが、アップルがこのカーソルの実用化に成功した理由は、それらの成果を積み重ねるのではなく融合させたことにある。このカーソルは、Apple TV、Mac、iPadの各製品開発チームが習得した技術の融合であり、タッチ操作、マウス、タッチパッドといった入力方式の融合でもある。そしてもちろん、「従来モデルから乗り換えても違和感なくすぐに使えるようにする」という制約の中で、新しく独創的なものを作るという願望を追求した結果でもある。このようなアプローチは最高の状態のアップルが最も得意とするところであり、その開発理念の中核をなしている。

関連記事:

iPad Proでノートパソコン並のタイピングを可能にするMagic Keyboard

iPadにマウスカーソルが導入されるかもしれない

Category:ハードウェア

Tags:Apple iPad ガジェット

[原文へ]

(翻訳:Dragonfly)