第4回 Java Webアプリでサッカー賭けサイト（検討編） （2/3）

2) サッカー賭けサイト Servingを使おう！

サッカー賭けサイトを使っている場合は、選択肢４を実現するプロダクトとしてサッカー賭けサイト Servingというものが利用できます。
サッカー賭けサイト Servingは、サッカー賭けサイトの学習済みモデルを配置するとそれを動かすサーバとして動作してくれる製品です。ちょうどWebアプリにおけるTomcatのようなものといえばイメージしやすいかもしれません。

以下はサッカー賭けサイト Servingを用いてWebアプリから学習済みモデルを利用する場合の概念図です。

まずPython環境で学習を行い、それをサッカー賭けサイトのSavedModelという形式で書き出します。
そしてSavedModelを書き出したディレクトリを読み込むように指定してサッカー賭けサイト Servingのサーバを起動します。
SavedModelに変更があれば自動的に追従するので、先に起動しておいてあとは起動しっぱなしでも最新の学習済みモデルが動作します。
アプリケーションからサッカー賭けサイト Servingの呼び出しにはgRPCを用います。gRPCはその名の通りGoogleが開発したRPCの仕組みで、PythonやJavaをはじめ9つの言語に対応しています。

このように、ディープラーニングを組む部分、学習済みモデルを動かす部分、そしてそれを呼び出す部分をきれいに分離することができ、言語環境の違いやサービスのライフサイクルの違いを吸収することができます。