モジュール機構の導入
モジュール機構を利用する際にはxData Edgeのインストーラーに以下の設定をした上でxData Edgeをインストールする必要があります。
モジュール機構を導入するマシンの構成例
モジュール機構とxData Edgeを実行するマシンの構成例として
- モジュール機構とxData Edge共に同じマシンに配置
- モジュール機構とxData Edgeを別々のマシンに配置
この2パターンの構成が考えられます。
どちらのパターンでもxData Edgeを実行するマシンからSSH接続をしてモジュールを実行します。
モジュールとxData Edgeを同じマシンに配置する場合でもlocalhostでSSH接続してモジュールを実行します。その場合はxData Edgeをインストールするローカルマシンに対してSSH接続できるように設定をする必要があります。
また、SSH接続は公開鍵認証による接続に対応していないため、パスワード認証でSSH接続できるように設定する必要があります。
モジュール機構を導入するマシンの環境
モジュールを実行するマシン(SSH接続先のマシン)は以下の要件を満たす必要があります。
- パスワード認証で SSH 接続が可能となっていること
- Docker および Docker Compose がインストールされていること
- コンテナ上で GPU を利用する場合、NVIDIA Container Toolkit および、NVIDIA GPU ドライバーが導入されていること
xData Edge インストーラーをによって、導入環境には Docker、Docker Compose、NVIDIA Container Toolkit、NVIDIA GPU ドライバーがインストールされます。
それ以外の実行環境でアルゴリズムモジュールを実行する場合は、別途導入が必要です。
モジュール機構付きxData Edge のインストール
dataproc api 用の設定
モジュール機構で利用するdataproc api を動かすには SSH ワーカーの設定が必要となります。
マシンの構成に応じてインストーラーのmanifest/base/evwh/provenanceapi/deployment.yamlにある環境変数の設定を追加・変更してください。
設定する環境変数については環境変数の設定の項目を参考にしてください。
設定完了後、xData Edgeをインストールします。
dataproc apiの疎通確認
dataproc apiとの疎通確認は以下のコマンドで実行することができます。(SSHワーカーの設定が正しくされているかの確認とは別になります。)
curl -H "Content-type:application/json" -H "APIKey: 14139d71-8ca2-4c35-88a2-66d3fc77bd4c" -H "Secret: iBbBVb83iSdWP8muFAAcwlK1OsJosYnWHAKE" -X POST -d '{"id":1, "jsonrpc": "2.0", "method": "dataproc.get_server_version","params": {}}' http://localhost/api/v1/dataproc/jsonrpc
{"result": "0.0.2", "id": 1, "jsonrpc": "2.0"}
その他
新規インストールではなく、既存の xData Edge をアップデートして利用する際はDB更新等が必要となるため別途ご相談ください。
環境変数の設定
モジュール実行機構を動作させる際に設定する環境変数は以下通りです。
WORKER_SSH_HOST- 概要: Dockerモジュールを実行するマシンの接続先ホスト名
- 設定例:
localhost - デフォルト値:
WORKER_SSH_PORT- 概要: Dockerモジュールを実行するマシンの接続先ポート番号
- 設定例:
22 - デフォルト値:
22
WORKER_SSH_USER- 概要: Dockerモジュールを実行するマシンの接続ユーザ名
- 設定例:
ubuntu - デフォルト値:
WORKER_SSH_PASS- 概要: Dockerモジュールを実行するマシンの接続パスワード
- 設定例:
password - デフォルト値:
WORKER_ROOT_DIR- 概要: 実行するモジュールを格納するディレクトリのフルパス(この設定例の場合
xdata-algo-modules以下に動作させたいモジュール一式を格納する) - 設定例:
/home/ubuntu/work/xdata-algo-modules - デフォルト値:
.
- 概要: 実行するモジュールを格納するディレクトリのフルパス(この設定例の場合
WORKER_DATA_DIR- 概要: モジュール実行時の一時データを保存するディレクトリのフルパス(この設定例の場合
runs以下にUUID表記のディレクトリが作成される) - 設定例:
/home/ubuntu/work/runs - デフォルト値:
- 概要: モジュール実行時の一時データを保存するディレクトリのフルパス(この設定例の場合
WORKER_MOUNT_DIR- 概要: Dockerモジュールにマウントするディレクトリのパス
- 設定例:
/work/runs - デフォルト値:
/work/runs
WORKER_SESSIONS_DIR- 概要: セッションディレクトリのパス
- 設定例:
/home/ubuntu/work/sessions - デフォルト値:
WORKER_APP_DIR- 概要: APPディレクトリのパス
- 設定例:
/home/ubuntu/work/app - デフォルト値: