Preferred NetworksがDLLAB DAYにてONNXフォーマット対応推論専用ライブラリ「Menoh」を発表

このエントリーをはてなブックマークに追加

日本でもっとも勢いのあるディープラーニングコミュニティ「DEEP LEARNING LAB」が、1周年を迎えるにあたって6月21日開催された「DLLAB DAY 2018」。Preferred Networks 代表 西川さんが登壇した基調講演で、ONNX対応の推論専用ライブラリ「Menoh」が発表されました。

Menohとは

Menohは、ONNXと連携し、Chainerで学習したONNXフォーマットのモデルを読み込み可能な、推論専用ライブラリ。Python以外の言語に対応し、よりエッジデバイスなどにもモデルをデプロイしやすくなったとのこと。特徴は以下の通り。

※ Menohは現在Pythonには未対応です。

  • Chainerなどで学習・保存したONNXフォーマットのモデルを読み込み可能
  • MKL-DNN対応でインテルCPUにおける高速な推論を実現
  • C/C++実装&多言語ラッパーによりエッジを中心に多用な環境に対応

    Menoh開発経緯

    DLLAB DAY基調講演では、西川さんは以下のように語っていました。

    ――西川
    「Chainerはそもそも、研究を加速させる目的で作られましたが、ありがたいことに使っていただける方も増えてきており、応用の機会も増えてきています。しかし、今までChainerはPythonしかサポートしておらず、デプロイするのにかなりの苦労を要したこともあり、この度Menohを開発しました。」

    Menoh開発者の岡田さんがPreferred ResearchのページでMenohの開発経緯を書いており、「ただ学習したモデルを自分のアプリケーションに組み込みたいだけなのにそれがなかなか難しい」と語っています。Python以外の環境ではデプロイに相当な労力(ブログでは“地獄”と表現)がかかっていたそう。

    日本の誇るディープラーニングフレームワーク Chainerで学習したモデルがPython以外の言語でも利用できるようになったことで、よりリアルへのディープラーニングの実装が進みそうですね。Preferred Netoworksの動きに今後も注目していきます。