ヤフー、最短1秒以内に不適切な投稿を分析できるAI技術 NewsPicksなど3社が導入

このエントリーをはてなブックマークに追加

ヤフー株式会社(Yahoo! JAPAN)は5月19日、株式会社ニューズピックスなど3社が提供するサービスに、「Yahoo!ニュース コメント」の健全化を目的に導入している「深層学習を用いた自然言語処理モデル(AI)」を利用して、コメントを評価する技術のAPIが導入されたと発表した。日本経済新聞の報道によると、本AI技術はコメントの内容が適切か最短1秒以内で分析できるという。

ヤフーが提供する「Yahoo!ニュース」では、専門チームによる人的なパトロールに加え、自社で開発した本AI技術を利用して、誹謗中傷などの不適切な投稿を1日平均約2万件削除するなど、不適切な投稿に対策を講じている。

2018年からは、本AI技術により「客観的で、必要であれば根拠を提示している」「新たな考え方や解決策、見識を提供する」などの条件を満たす建設的なコメントをスコアリングし、スコアが高いものを上位表示するヤフー独自の技術「建設的コメント順位付けモデル」を取り入れた。

今回、ヤフーが提供開始したのは「建設的コメント順位付けモデル」の技術だ。ニューズピックスらサービス事業者は、AI開発に必要となる大量の学習データや計算コストなどの初期投資をかけずに、本AI技術を利用してコメント健全化対策を開始できる。なお、本AI技術は複数の特許を出願中という。

NewsPicksなど「規約違反発言などを積極的に対処」

株式会社ニューズピックスが運営する「NewsPicks」、株式会社ゼンダーが運営する「攻略大百科」株式会社インタースペースが運営する「ママスタコミュニティ」の3サービスが本AI技術を導入し、コメント欄の健全化のために活用する。

それぞれ本AI技術の活用方法は以下のとおり。

  • 「NewsPicks」:本AI技術を利用規約に反する発言の発見補助として活用する。
  • 「攻略大百科」:「おすすめ順」タブを作り、本AI技術によりスコアの良いコメントを優先的に表示する。
  • 「ママスタコミュニティ」:人的パトロールによるコメント監視の際、不適切な内容に対する検知精度向上のため、本AI技術が算出したスコアを使用する。

「NewsPicks」トップページより

ニューズピックスは「『NewsPicks』のコメント欄は独自のアルゴリズムで運営しており、自由な言論空間を確保しながら健全なコミュニティ作りを図っています。今後も、より健全なプラットフォーム運営を目指すために、誹謗(ひぼう)中傷などの規約違反発言などを積極的に対処し、より心理的安全性を向上させていく必要があると考えています」とコメント。

「攻略大百科」トップページより(※著作権の関係上、一部モザイク加工を施しています)

ゼンダーは「『攻略大百科』が提供するゲーム攻略記事をきっかけに、多くのユーザーによるさまざまな意見がコメント欄で活発にやりとりされています。しかしながらコメントが盛り上がりその数が増えるほど、有益な情報が埋もれてしまうという問題がありました。『Yahoo!ニュース』のAI技術を活用することで、ユーザーが有益な情報を見つけやすくなり、ゲームをより楽しむきっかけとなることを期待しています」と語る。

「ママスタコミュニティ」トップページより

インタースペースは「『ママスタコミュニティ』では、ユーザーに対して安心・安全にサービスをご利用いただくために、以前より『不適切な内容の投稿をいち早く特定し、適切な対策を講じていきたい』という課題がありました。今回AI技術を導入することにより、精度の高い、スピード感を持った対策・対応が可能となることを期待し、今後もサービスの健全化を推進していきます」と述べる。

ヤフーは今後もさまざまな投稿系サービス事業者が本AI技術を順次導入予定と明らかにしている。

>>日本経済新聞による報道

>>ニュースリリース