Facebook、AIで差別的な投稿を検出 精度は約94.7%に

このエントリーをはてなブックマークに追加

米Facebook(フェイスブック)は現地時間11月19日、公式ブログにおいて、人工知能(AI)の進歩によって、ユーザーがヘイトスピーチを報告する前に、より多くのヘイトスピーチを発見できるようになったと明らかにした。

具体的には、2017年の第4四半期(10月〜12月)は削除したヘイトスピーチのうち、ユーザーが報告する前にAIが発見したものは23.6%に過ぎなかった。しかし、現在ではその割合は当時の約4倍の約94.7%にもおよぶという。Facebookの傘下であるInstagramでも、94.8%と近い数字を実現しているとのこと。

FacebookではAIを使用してコンテンツの優先順位を付けしているため、担当者はもっとも害のあるコンテンツに集中できるとした。

なお、2020年7月〜9月までの全投稿のうち、ヘイトスピーチは0.10%~0.11%と推定されるという。言い換えると、Facebookの全投稿の閲覧数1万件のうち、10~11件がヘイトスピーチを含んでいたと考えられる。

>>公式ブログ(該当記事)

Instagram、攻撃的なコメントをAIで非表示に

Facebook傘下のInstagramは過去にも、AIを活用した取り組みを公表している。

Instagramは現地時間10月6日、公式ブログにおいて、攻撃的なコメントを自動的に非表示にする機能のテストを始めたことを明らかにした。米CNNの報道によると、コメント内の言葉を識別するために、AIシステムを活用すると見られる。

今回公表した機能では、過去にユーザーによって報告されたものと同様のコメントを非表示にする。Instagramは本機能について、コメント内のいじめや嫌がらせなど、ネガティブなやり取りを減少させるためのものとしている。