不適切な投稿を検知するAI ヤフーが誹謗中傷対策として技術提供

このエントリーをはてなブックマークに追加

画像出典:写真AC

ヤフー株式会社は6月1日、「Yahoo!ニュース コメント」において導入している深層学習を用いた自然言語処理モデル(AI)のさらなる活用などを進めていくと発表した。

主な活用は、ほかの投稿系サービス事業者へのAI技術の提供や、法律家だけでなく幅広い分野から有識者を募り議論をする検討会の設置だ。

>> プレスリリース

「Yahoo!ニュース コメント」で不適切な投稿を検知するAI

ヤフーが提供する「Yahoo!ニュース」におけるコメント機能では、深層学習を用いた自然言語処理モデル(AI)による検知を通して、不適切な投稿を削除している。

Yahoo!ニュースでの不適切な投稿は1日平均約2万件にものぼる。主に、記事との関連性の低いコメントや誹謗中傷などの書き込みが不適切な投稿に当てはまる。

ヤフーでは不適切な投稿に対して、AIの活用だけでなくユーザーへの周知や啓発によって当該投稿の事前抑止に努めるだけでなく、専門チームによるパトロールなどもしていた。

今回ヤフーは、Yahoo!ニュースで活用している深層学習を用いた自然言語処理モデル(AI)を、ほかの投稿系サービス事業者に技術提供を進めていくと発表した。

さらに、誹謗中傷などの問題への対処にあたっては、ヤフーとしても法的課題や実務的課題があると認識している。この課題をデジタル時代に即した共通規範に基づいて解決するために、議論をする場である検討会を2020年6月中を目途に設置することも明かした。この検討会では、法律家だけでなく幅広い分野から有識者を募って検討をし、その結果を公表していく。

>> プレスリリース

口コミの信憑性を担保する「AIによる口コミ検閲」を開始

ネットの書き込みは、想像以上に広く影響を与えるものだ。それこそ、先日の痛ましい事態についての報道は、多くの人に突き刺さった。ヤフーの取り組みのように、AIを使ってネットの書き込み内容を識別するといったことは増えていきそうだ。

2020年3月には、株式会社グローバルウェイが運営する企業の口コミ情報サイト「キャリコネ」に、AIによる「口コミ検閲」の導入を発表した。

キャリコネは、企業に勤める社員や元社員がその企業に関する口コミ、年収、面接体験などを自由に投稿できる企業口コミサイト。企業掲載件数は2020年3月時点で62万件にのぼる。同社では投稿された口コミに対し、投稿内容の事後検閲体制によって、社会道徳に反するような誹謗中傷等の不適切な投稿を発見した場合には削除するなど、利用者への便宜性や信頼性を失わないように監視をしていた。

導入したAIによる口コミ検閲によって、グローバルウェイでは監視コストの削減や、人的負担の低減を狙っている。さらに、AIに日々蓄積される教師データによって、投稿の信憑性と信頼性をより高めたい考えだ。

誹謗中傷対策のためにも、投稿サービスを活用する企業では、いままで以上に監視体制の強化が問われている。しかし、人間の目視による作業では時間も費用もかかるため、AIで代用しよう、というのがヤフーやグローバルウェイでの取り組みだ。