自殺防止

  • Facebookライブにアップされた自殺動画の拡散防止に失敗した各SNSの理由

    Facebookライブにアップされた自殺動画の拡散防止に失敗した各SNSの理由

    あるFacebookユーザーが自分が自殺するところをライブ動画としてアップロードした。その動画はコピーされてSNSに広く拡散した。YouTubeでは広告つきのビデオが現在も多く配信されている。 続きを読む

  • FacebookにAIを活用した自殺防止・通報機能――ライブビデオでの自殺を機に本格的対策

    FacebookにAIを活用した自殺防止・通報機能――ライブビデオでの自殺を機に本格的対策

    このソフトウェア・テクノロジーは多くの命を救うためのものだ。FacebookはAIを利用した「プロアクティブな探知」機能を実装する。これはコンテンツをスキャンして自殺の可能性を示唆する投稿を抽出し、自殺の危険性が発見されたユーザー、あるいはその友達に対し、必要に応じてメンタルヘルス専門家などのリソースを提供できるようにする。また地域で自殺防止のために活動している人々に通報する機能もある。AIを利用して憂慮すべき兆候がある投稿にフラグを立て、これを人間のモデレーターが精査する仕組みだ。 続きを読む