バイアス(用語)

  • Twitterが「業界初」機械学習アルゴリズムの「バイアス」を対象とする報奨金コンテスト実施

    Twitterが「業界初」機械学習アルゴリズムの「バイアス」を対象とする報奨金コンテスト実施

    Twitterが、システムが自動的に画像をクロップする際の”偏り”を発見した人に謝礼を支払う報奨金コンテストをHackerOneを通じ開始しました。Twiiterの自動画像クロップは2018年から使われ始めましたが、一部ユーザーからはこのアルゴリズムが肌の白い人を中心にするようなバイアスがかった処理を行う傾向があると批判の声が上がっていました。 続きを読む

  • Twitterは投稿時の画像プレビューのトリミング方法をユーザーに委ねる方針へ

    Twitterは投稿時の画像プレビューのトリミング方法をユーザーに委ねる方針へ

    Twitterのトリミングアルゴリズムに関する偏見論争をきっかけにした興味深い展開が発展し, 同社はユーザーにツイートプレビューがどのように見えるかの決定権を与えることを検討していることを明らかにした。機械学習ベースの画像トリミングへの依存度を減らしたいという狙いもある。 続きを読む

  • テック企業大手のサービスのアルゴリズムによる偏向を防ぐ法案を民主党が提出

    テック企業大手のサービスのアルゴリズムによる偏向を防ぐ法案を民主党が提出

    大企業が彼らの自動化システムの意図せざる影響に背を向けないようにするアルゴリズム説明責任法は、21世紀のテクノロジーが確実に、疎外ではなく力づけのツールになるよう導く。 続きを読む

  • 機械学習で危険なバイアスを避ける3つの方法

    機械学習で危険なバイアスを避ける3つの方法

    歴史における現在の時点で人間のバイアスがもたらす危険に目を無視することは不可能だ。コンピューターがこの危険を増幅している。われわれは機械学習を通じて忍び込む人間のバイアスの危険性はいくら強調しても強調しすぎることはない。これによって引き起こされる害悪は大きく2つに分けられる。影響:「AIがこうだと言っている」といえば、人々はそれを信じてしまう。 AIシステムの学習過程で人間のバイアスが混入していても気づかれにくい。ストレートなバイアスよりはるかに広い範囲に悪影響を与えることになる。 続きを読む

  • FaceAppが人種差別的AIを構築したことを謝罪

    FaceAppが人種差別的AIを構築したことを謝罪

    すべてのアルゴリズムバイアスがこれと同じくらい簡単に見つけられれば良いのに。フォトリアリスティックなやり方で、自撮り写真の編集をニューラルネットワークで行う写真編集アプリFaceAppは、人種差別的(racist)アルゴリズムを提供したことを謝罪した。 このアプリは、ユーザーが自撮り写真や、撮影済みの顔の写真をアップロードして、その見かけを微妙にあるいは大胆に変えるフィルターの適用を行わせるものだ。風貌を変える効果の中には、老化や異性化なども含まれている。 問題は、アプリには”hotness”(ホットにする)フィル… 続きを読む

  • Facebook、トレンド記事の偏見疑惑を否定しつつ、手続きの改善を約束

    Facebook、トレンド記事の偏見疑惑を否定しつつ、手続きの改善を約束

    Facebookは今日(米国時間5/23)、トレンド記事機能に関する公式質問、具体的には担当チームが過去数週間にわたり、保守的意見を抑制したり、一部の記事を恣意的に浮上させたりしたとする疑惑に回答した。 続きを読む