Instagram、攻撃的なコメントをAIで非表示に

このエントリーをはてなブックマークに追加


米フェイスブック傘下のInstagramは10月6日、公式ブログにおいて、攻撃的なコメントを自動的に非表示にする機能のテストを始めたことを明らかにした。米CNNの報道によると、コメント内の言葉を識別するために、人工知能(AI)システムを活用すると見られる。

今回公表した機能では、過去にユーザーによって報告されたものと同様のコメントを非表示にする。Instagramは本機能について、コメント内のいじめや嫌がらせなど、ネガティブなやり取りを減少させるためのものとしている。

一方で、調査結果によると、人びとはネガティブなコメントを見たくはないものの、非表示にされたコメントの内容は詳しく知りたいと思っているという。Instagramでは「非表示のコメントを見る」をタップすると、コメントを確認することもできる。

また、コメントの警告を拡張して、不適切と思われるコメントを繰り返し投稿しようとした際に、さらに追加の警告を表示するように仕様を変更した。

Instagramは新機能のテストに際して、「いじめを受けている人びとは多数にのぼり、ただでさえ新型コロナウイルス感染症にともなう重圧にさらされている若い人びとの間でとくに目立っています。今年は世界が確実に変わってしまいましたが、弊社では変わることなく、オンラインいじめへの対策を業界に先がけて進める取り組みを優先しています」と述べている。

>>公式ブログ 該当ページ

>>米CNNの報道

不適切な投稿を検知するAI ヤフーが誹謗中傷対策として技術提供

インターネット上の攻撃的なコメントなどに対して、AIを活用して対策に乗り出す例はほかにもある。

たとえば、ヤフー株式会社は6月1日、「Yahoo!ニュース コメント」において導入している深層学習を用いた自然言語処理モデルのさらなる活用などを進めていくと発表した。主な活用は、ほかの投稿系サービス事業者へのAI技術の提供や、法律家だけでなく幅広い分野から有識者を募り議論をする検討会の設置だ。

ヤフーが提供する「Yahoo!ニュース」におけるコメント機能では、深層学習を用いた自然言語処理モデルによる検知を通して、不適切な投稿を削除している。

Yahoo!ニュースでの不適切な投稿は1日平均約2万件にものぼる。主に、記事との関連性の低いコメントや誹謗中傷などの書き込みが不適切な投稿に当てはまる。

ヤフーでは不適切な投稿に対して、AIの活用だけでなくユーザーへの周知や啓発によって当該投稿の事前抑止に努めるだけでなく、専門チームによるパトロールなどもしていた。