InstagramはAIにより悪質なキャプションにも注意を与える

次の記事

環境活動家グレタ・トゥンベリ氏のドキュメンタリーをHuluが配信へ

今年7月にInstagram(インスタグラム)は、悪質と思われるコメントが投稿される前に警告する機能を発表した。先回りして警告するこの機能を、今度はキャプションにも拡張する。今回のこの新機能では、ユーザーが投稿に付けるキャプションを書くと、これまでにいじめと報告された文言に類似していないかどうかをインスタグラムのAIが検知する。

ただし悪意のある発言の公開を阻止するわけではない。書いた言葉を考え直すようにとちょっと注意を促すだけだ。しかし前述の機能が公開された後は、コメント欄でのいじめが減っている。

この新機能が実装されると、ユーザーが悪質と思われるキャプションを書いた場合に「このキャプションは以前に報告されたものと類似しているようです」と通知が表示される。この通知を見たユーザーは、文言を編集するか、ボタンを押して詳しい情報を見るか、無視して投稿することができる。

オンラインでのいじめの減少だけでなく、インスタグラムはユーザーに対し、どういうことが禁止されているか、どういう場合にルール違反でアカウントが無効化されるおそれがあるかを知らせることも狙っている。


今回の新機能でネガティブな、あるいは暴力的なキャプションの投稿を阻むことはできないが、インスタグラムはオンラインでのいじめの被害者を救う機能をこれまでに数多く導入している。例えばユーザーは、個々のポストについてコメントをオフにする、フォロワーを削除する、コメントをフィルタリングする、アカウントをミュートするといったことができる。今年はぎりぎりのコンテンツのランクを下げる対策も開始した。これは利用禁止には至らないもののボーダーラインに近づいているアカウントに対して適用されるもので、暴力的な、あるいは有害なコンテンツを投稿して注目を集めようとする理由がほとんどなくなる。

こうした対策が遅すぎたのは、10億人を超えるインスタグラムユーザーにとっては不幸なことだ。偽情報を調べるための投稿のファクトチェックは、世界的には米国時間12月16日に始まったばかりだ。

現在のソーシャルメディアプラットフォームのほとんどがそうだがインスタグラムも、誰かを傷つけたい人がサービスをいかに悪用するかに目を向けて慎重に設計されたものではなかった。むしろテクノロジーがほんとうに誰かを傷つけることに、インスタグラムなどのプラットフォームは後から気づいた。ソーシャルメディアプラットフォームは、さまざまな視点や体験を考慮した労働力の構成に現在も苦心している。

いじめと思われる発言に注意を促す新機能は歓迎だが、インスタグラムができてからこの機能が実装されるまで10年もかかったのは残念だ。AIが進化して来年のどこかのタイミングでこうしたツールはもっとパワフルで実用的になるかもしれないが、こうした機能はシンプルな形であっても何年も前に実現し年月をかけて進化してもよかったはずだ。

インスタグラムは、この機能は一部の地域から徐々に公開し、世界的には「その後数カ月のうちに」と展開すると述べている。つまり2020年ということだ。

[原文へ]

(翻訳:Kaori Koyama)