口コミ検閲AIで信憑性・信頼性を担保、企業口コミサイトに導入へ

このエントリーをはてなブックマークに追加

2019年末ごろ、大手口コミサイトに対して「点数操作」「評価操作」に関しての疑惑が持ち上がった。このニュースは多くの人が注目していたことだろう。

インターネット上における口コミが利用者に与える影響はすさまじい。それは良い意味でも悪い意味でもだ。





口コミが集まるサイトでは、その口コミが本当に信頼できるものなのかが重要視される。

その口コミによる信憑性や信頼性を担保するため、株式会社グローバルウェイは3月6日、同社が運営する企業の口コミ情報サイト「キャリコネ」にAI(人工知能)による口コミ検閲の導入を発表した。

>> キャリコネ

人間による監視コストや人的負担の軽減に

キャリコネは、企業に勤める社員や元社員がその企業に関する口コミ、年収、面接体験などを自由に投稿できる企業口コミサイト。企業掲載件数は2020年3月時点で62万件に上る。

投稿された口コミに対し、投稿内容の事後検閲体制によって、社会道徳に反するような誹謗中傷等の不適切な投稿を発見した場合には削除するなど、利用者への便宜性や信頼性を失わないように監視をしていた。

この事後検閲や監視は、プログラムだけでなく人間による目視で実施されていた。

導入したAIによる口コミ検閲によって、監視コストの削減や、人的負担の低減を狙っている。さらに、AIに日々蓄積される教師データによって、投稿の信憑性と信頼性をより高めたい考えだ。

すべてAWS上で完結できるシステムを構築

AIによる口コミ検閲のシステム構成は、AWSのSageMakerが採用されている。

モデルに学習させる教師データは、これまでの運営実績によって蓄積された十分な量のラベリング済みデータを使う。課題の解決に最適なデータを生成するために、一部のデータを再度人間がチェックするなどをした。

Amazon Simple Storage Service(Amazon S3)に格納されたラベリング済みデータに対し、形態素解析、ノイズの除去、正規化、分散表現を用いた置換処理などの前処理をし、機械学習アルゴリズムに適した形式にデータを整形。これをモデルに学習させている。

AWS SageMakerを採用したことで、システム全体を低コストで開発、維持し、モデルの精度改善などの品質向上のためのイテレーションもすべてAWS上で完結するシステムを構築できたという。

生成されたAIモデルによる検閲処理は、エンドポイント上で稼働させ、キャリコネのさまざまなサービスで活用できるようになっているそうだ。

今後は、信憑性の高い口コミを提供し続けるために、人間による高いレベルの検閲を補佐するAIを目指す。人間による検閲に代わるAIではない、という部分がポイントで、プレスリリースでは「共に働く仲間としてのAI」と言っている。

>> プレスリリース