エンジニアリング - ENGINEERING -

Google、ブラウザ内でAIを高速実行する「LiteRT.js」を発表　WebGPU対応、既存ランタイム比で最大約3倍

Googleは2026年7月9日、AIモデルをウェブブラウザ内で高速に実行するJavaScript向けランタイム「LiteRT.js」を[発表]{target=“_blank”}した。推論処理を端末内で完結できるため、サーバーへのデータ送信を抑え、プライバシーの向上や通信遅延、サーバー運用コストの削減につなげられるとしている。 ## LiteRTをウェブブラウザへ拡張 LiteRT.jsは、GoogleのオンデバイスAI向けランタイム「LiteRT」を、ウェブブラウザ上で利用できるようにするJavaScript向けの実行基盤だ。LiteRTは旧TensorFlow Liteを引き継ぐ仕組みで、スマートフォンやデスクトップ、組み込み機器などでAIモデルを動かすために使われてきた。 LiteRT.jsでは、LiteRTと共通の「.tflite」形式のモデルをブラウザ内で実行できる。CPU処理にはWebAssemblyを介してXNNPACKを利用し、GPU処理にはWebGPUとGoogleの「ML Drift」を用いる。NPU向けにはWebNNへの対応も進めるが、WebNNは現時点で実験段階にあり、一般的なブラウザ機能としては提供されていない。 **■ LiteRT.jsのアーキテクチャ：** CPUではXNNPACK、GPUではWebGPU経由のML Driftを利用し、NPU向けのWebNNは実験段階となる ![diagram1_uua0KLc.original.jpg] :::small 画像の出典：[Google Developers Blog]{target=“_blank”} ::: ## PyTorchやTensorFlow.jsの既存資産を活用 開発者はJavaScriptまたはTypeScriptで作成したウェブアプリにLiteRT.jsを組み込み、テキスト生成、物体検出、音声処理などをクライアント側で実行できる。PyTorch、JAX、TensorFlowで構築したモデルをLiteRT形式へ変換でき、量子化によるモデルサイズの縮小や高速化にも対応する。 既存のTensorFlow.jsパイプラインとの連携も想定する。前処理や後処理にはTensorFlow.jsを使いながら、モデル推論部分をLiteRT.jsへ移行できるため、既存のウェブAIアプリを全面的に作り直さずに推論部分の高速化を図れる。 ## Googleの測定で既存ランタイム比最大約3倍 Googleは画像認識や音声処理のモデルを使い、LiteRT.jsとONNX Runtimeの実行性能を比較した。2024年モデルのM4搭載MacBook Proを使った管理環境での測定では、CPUとWebGPUの双方で最大約3倍の性能を示したという。 **■ LiteRT.jsとONNX RuntimeのCPU・WebGPU性能比較：** 2024年モデルのM4搭載MacBook Proを使った管理環境で測定したもので、利用環境によって結果は異なる ![Data_image_1600x900.original.png] :::small 画像の出典：[Google Developers Blog]{target=“_blank”} ::: また、CPU実行を基準にすると、WebGPUまたはWebNNを使った処理はモデルによって5～60倍高速だったとしている。ただし、結果はGPU性能、発熱による速度制限、ブラウザやドライバーの最適化状況などによって異なる。これらの数値はGoogleによる自社測定である。 ## ベクトル検索や画像高解像度化のデモを公開 Googleは、軽量埋め込みモデル「EmbeddingGemma」を使ったブラウザ内ベクトル検索、YOLOによる物体検出、ウェブカメラ映像から奥行きを推定する3D表示、画像を4倍に高解像度化するデモを公開した。LiteRT.jsのnpmパッケージとソースコードも公開しており、開発者は実際のウェブアプリへ組み込める。 今後はWebNNとの統合を進め、NPUを使った推論性能の向上や、端末上で動く生成AIへの最適化を拡充する方針だ。ブラウザでLLMを動かす「LiteRT-LM.js」も案内しており、GoogleはLiteRTの対応範囲をモバイルやデスクトップからウェブへ広げる。 :::box [関連記事：ブラウザ上でLLMを実行する新技術に注目！ JavaScriptフレームワークのWebLLMはエッジAIをウェブの世界に拡張] ::: :::box [関連記事：5〜7MBの軽量埋め込みAIモデル「Ternlight」が登場 訪問者のCPU上でセマンティック検索を実行] ::: :::box [関連記事：Google、オンデバイス向け埋め込みモデル「EmbeddingGemma」を公開──約3億パラメータで200MB動作を実現]