マッチングサービスにおいて、機械学習を用いてアプリ内の不正投稿を検知する動きが活発化している。一昔前の「出会い系」というイメージを払拭すべく、各社が最新技術を用いて健全化に向けた取り組みを加速させている格好だ。
サイバーエージェント連結子会社のマッチングエージェントは、同社が運営するマッチングサービス「タップル誕生」において、
- 18歳未満の可能性があるユーザーを自動検知するシステム
- プロフィール画像において掲載基準に満たない画像を自動検知するシステム
を導入した。システムには機械学習を用いているという。
機械学習で18歳未満の投稿、不正プロフィールを検知
システム構成図（出典：マッチングエージェントプレスリリース）
「タップル誕生」は「出会い系サイト規制法」に基づき、18歳未満の青少年の利用を禁止している。
正式名称「インターネット異性紹介事業を利用して児童を誘引する行為の規制等に関する法律」。出会い系サイトの利用に起因する児童買春その他の犯罪から児童を保護し、もって児童の健全な育成に資することを目的とする法律。2008年に施行されている。
登録ユーザーに対し、運転免許証などの公的身分証明書による年齢確認を実施したうえでサービスの利用を許可する。導入されたシステムでは、機械学習技術を用いて若年層ユーザーの言葉遣いを考慮した検知を実現した。
年齢を偽ってサービスの利用を試みる18歳未満のユーザーをいち早く検出することができる。さらに、文章中の「高校生」といったキーワードとの一致のみを考慮する場合に比べて検出精度が高い特徴があるという。
また、タップル誕生ではなりすましや写真の悪用防止の観点から、プロフィール画像審査も実施している。これまでユーザーが投稿したプロフィール画像は、監視オペレーターが目視で確認を行っていた。今回導入されたシステムでは、複数のディープラーニングを利用した判別モデルを用いて基準を満たした画像を自動的に承認し、プロフィールに掲載することが可能になる。
基準に満たない可能性があると判断された画像については、監視オペレーターが掲載可否を判断する。これにより監視オペレーターによる判断の差異を防ぎ、作業が効率化されることで、スピーディーな不正プロフィール画像の検知を実現するという。
同様の取り組みはゼクシィ縁結びでも
リクルートが運営する婚活サービス「ゼクシィ縁結び」も3月12日、リクルートテクノロジーズ開発の機械学習を用いた不正検知システムを導入した。
出典：マッチングサービス活用の流れは大きく、
- アカウント登録
- 「いいね」や「メッセージ」でのやり取り
- デートを重ね交際に至る
- 退会
などのに分けられる。このシステムでは、各フェーズごとにさまざまなパターンの異常検知フィルターを設け、不正行動検知の網羅性を高めた。
また、フィルターから外れた新たな不正行動は、機械学習を用いて以降の類似行動を検知できるようにし、継続的に検知率を向上させる仕組みを構築したという。
機械学習は「出会いの健全化」に貢献するか
マッチングサービスにおいて、一部の不適切な投稿をするユーザーの存在は大きな敵だ。ひとつの悪質な投稿が多くのユーザーからの評判を下げ、サービスの評価は地に落ちる。インターネットが普及した現代、悪評が広まるのも速い。
「出会い系サイト」を通して発生した事件や、「業者、サクラ」などへの悪評から、日本ではマッチングサービスに対するネガティブなイメージがつきまとう。悪質なユーザーを排除し、アプリの健全化を推し進めることは、ユーザーからの信頼を得るために、もはや必須と言っていい。
それらの文脈を考慮すると、これまで人の目で行っていた投稿の監視を機械学習によって代替、効率化することは、マッチングサービスの「安心・安全」さを押し広げることは間違いない。テクノロジーで「出会い」の場の健全化が進んでいる。
