自殺防止

  • 非営利Tech集団「ZIAI」がAIを活用したSNS自殺関連キーワード検知システムのβ版をリリース

    非営利Tech集団「ZIAI」がAIを活用したSNS自殺関連キーワード検知システムのβ版をリリース

    任意団体NPO「ZIAI」は1月13日、SNS上に投稿された自殺関連キーワードを自動で収集し、アカウント名や投稿内容を整理して一覧化、ワンクリックで該当者へのアプローチを可能にする自殺検知システムのβ版をリリースしたと発表した。 続きを読む

  • Facebookライブにアップされた自殺動画の拡散防止に失敗した各SNSの理由

    Facebookライブにアップされた自殺動画の拡散防止に失敗した各SNSの理由

    あるFacebookユーザーが自分が自殺するところをライブ動画としてアップロードした。その動画はコピーされてSNSに広く拡散した。YouTubeでは広告つきのビデオが現在も多く配信されている。 続きを読む

  • FacebookにAIを活用した自殺防止・通報機能――ライブビデオでの自殺を機に本格的対策

    FacebookにAIを活用した自殺防止・通報機能――ライブビデオでの自殺を機に本格的対策

    このソフトウェア・テクノロジーは多くの命を救うためのものだ。FacebookはAIを利用した「プロアクティブな探知」機能を実装する。これはコンテンツをスキャンして自殺の可能性を示唆する投稿を抽出し、自殺の危険性が発見されたユーザー、あるいはその友達に対し、必要に応じてメンタルヘルス専門家などのリソースを提供できるようにする。また地域で自殺防止のために活動している人々に通報する機能もある。AIを利用して憂慮すべき兆候がある投稿にフラグを立て、これを人間のモデレーターが精査する仕組みだ。 続きを読む

  • Facebookの自殺防止ツールが多言語化、プライバシー保護とのバランスが難しい

    Facebookの自殺防止ツールが多言語化、プライバシー保護とのバランスが難しい

    Facebookが、その自殺防止ツールをアップデートし、今それを全世界で利用できるようにしている。 友だちからの投稿が自損行為や自殺を示唆していたら、このツールを使って警告/警報できる。前は英語のみで、そのほかのユーザーは特定のフォームを使う必要があった。しかしアップデートされたツールでは、その過程が迅速になり、そして簡単になった。 続きを読む