Intel Neural Compute Stick 2
2018年12月25日 - 未分類
Intel Neural Compute Stick 2が、Intel Neural Compute Stick 1よりも８倍も高速化されたとのことで、試しに購入してみました。MacのVirtualBoxにUbuntuを入れて OpenVinoをインストールして試してみると、MYRAID指定すると、Neural Compute Stick 2がUSBデバイスから切り離されてしまう。
とんでもなく使えない。もう、かれこれ３日も費やしてしまった。実績のある、Intel Neural Compute Stick 1の方にしておけばよかったと、少し、後悔も。
ちなみに、動作環境は、MacOSX Mojave(10.14.2)にVirtualBoxを入れて、Ubuntu16.0.4を起動しています。
ncsdkは使ってはいけない
Intelが提供しているncsdkは使ってはいけない。バグが多く、コンパイルもろくにできない。また、ソースコードも独特なものになってしまい、移植性が悪い。これからは、OpenVinoを使うべき。OpenVinoは、OpenCV3.2以上のdnnで提供されているみたい。単に、OpenCVのdnnでコードを書いて、利用するデバイスをMYRIAD(Movidious)に指定すればいいだけ。
VirtualBox Ubuntuで動かす
なかなか、動作しなかったのですが、苦闘４日目で、やっと動きました。ここの記事の設定をしました。
https://movidius.github.io/ncsdk/vm_config.html
原因は、VirtualBoxのUSBの設定でした。
当初は、USBデバイスの追加で出てくるメニュー内のMovidius Ltd. Movidious MyraidX[0001]を選んでいましたが、これが悪かったみたい。
ブランクのフィルター（USB whitelist filters）を作って、ベンダーIDだけ入れるみたいです。ベンダーID 03e7 はIntelですが、040eは、どこだか分かりません。ちなみに、VirtualBox Extension Packが必要です。
VirtualBoxにWebCamを接続します。
irtualBoxを起動してコンテナを起動後に実施すること。
$ VBoxManage list webcams
$ VBoxManage list runningvms
$ VboxManage controlvm ncs2 webcam attach .1
これは、Macのターミナルから実施します。これで、Macの内蔵カメラ（FaceTime)が使えるようになります。
VirtualBoxのコンテナにログインして、ubuntuのターミナルを開きます。（OpenVinoがインストールされているとします。）
$ cd ~/inference_engine_samples/intel64/Release
$ ./interactive_face_detection_demo -i cam -m intel_models/face-detection-retail-0004/FP16/face-detection-retail-0004.xml -d MYRIAD
MYRIADを使う場合は、FP16になります。
$ ./interactive_face_detection_demo -i cam -m intel_models/face-detection-retail-0004/FP32/face-detection-retail-0004.xml -d CPU
CPUを使う場合はFP32です。CPUでもFP16が使えればいいのに。少し面倒。
$ cd /opt/intel/computer_vision_sdk/deployment_tools/demo
$ ./demo_security_barrier_camera.sh -d MYRIAD
target = MYRIAD
target_precision = FP16
Run sudo -E apt -y install build-essential cmake libcairo2-dev libpango1.0-dev libglib2.0-dev libgtk2.0-dev libswscale-dev libavcodec-dev libavformat-dev libgstreamer1.0-0 gstreamer1.0-plugins-base
[sudo] password for pi:
Hit:1 http://jp.archive.ubuntu.com/ubuntu xenial InRelease
Get:2 http://jp.archive.ubuntu.com/ubuntu xenial-updates InRelease [109 kB]
Get:3 http://jp.archive.ubuntu.com/ubuntu xenial-backports InRelease [107 kB]
Get:4 http://security.ubuntu.com/ubuntu xenial-security InRelease [107 kB]
Hit:5 https://download.docker.com/linux/ubuntu xenial InRelease
Fetched 323 kB in 1s (256 kB/s)
Reading package lists… Done
Building dependency tree
Reading state information… Done
All packages are up to date.
Reading package lists… Done
Building dependency tree
Reading state information… Done
build-essential is already the newest version (12.1ubuntu2).
libcairo2-dev is already the newest version (1.14.6-1).
libpango1.0-dev is already the newest version (1.38.1-1).
cmake is already the newest version (3.5.1-1ubuntu3).
gstreamer1.0-plugins-base is already the newest version (1.8.3-1ubuntu0.2).
libglib2.0-dev is already the newest version (2.48.2-0ubuntu4.1).
libgstreamer1.0-0 is already the newest version (1.8.3-1~ubuntu0.1).
libgtk2.0-dev is already the newest version (2.24.30-1ubuntu1.16.04.2).
libavcodec-dev is already the newest version (7:2.8.15-0ubuntu0.16.04.1).
libavformat-dev is already the newest version (7:2.8.15-0ubuntu0.16.04.1).
libswscale-dev is already the newest version (7:2.8.15-0ubuntu0.16.04.1).
0 upgraded, 0 newly installed, 0 to remove and 0 not upgraded.
Reading package lists… Done
Building dependency tree
Reading state information… Done
libpng12-dev is already the newest version (1.2.54-1ubuntu1.1).
0 upgraded, 0 newly installed, 0 to remove and 0 not upgraded.
###################################################
Build Inference Engine samples
Target folder /home/pi/inference_engine_samples already exists. Skipping samples building.If you want to rebuild samples, remove the entire /home/pi/inference_engine_samples folder. Then run the script again
###################################################
Run Inference Engine security_barrier_camera demo
Run ./security_barrier_camera_demo -d MYRIAD -d_va MYRIAD -d_lpr MYRIAD -i /opt/intel/computer_vision_sdk/deployment_tools/demo/car_1.bmp -m /opt/intel//computer_vision_sdk_2018.5.445/deployment_tools/intel_models/vehicle-license-plate-detection-barrier-0106/FP16/vehicle-license-plate-detection-barrier-0106.xml -m_va /opt/intel//computer_vision_sdk_2018.5.445/deployment_tools/intel_models/vehicle-attributes-recognition-barrier-0039/FP16/vehicle-attributes-recognition-barrier-0039.xml -m_lpr /opt/intel//computer_vision_sdk_2018.5.445/deployment_tools/intel_models/license-plate-recognition-barrier-0001/FP16/license-plate-recognition-barrier-0001.xml
[ INFO ] InferenceEngine:
API version ………… 1.4
Build ……………… 19154
[ INFO ] Parsing input parameters
[ INFO ] Capturing video streams from the video files or loading images
[ INFO ] Files were added: 1
[ INFO ] /opt/intel/computer_vision_sdk/deployment_tools/demo/car_1.bmp
[ INFO ] Number of input image files: 1
[ INFO ] Number of input video files: 0
[ INFO ] Number of input channels: 1
[ INFO ] Loading plugin MYRIAD
API version ………… 1.5
Build ……………… 19154
Description ……. myriadPlugin
[ INFO ] Loading network files for VehicleDetection
[ INFO ] Batch size is forced to 1
[ INFO ] Checking Vehicle Detection inputs
[ INFO ] Checking Vehicle Detection outputs
[ INFO ] Loading Vehicle Detection model to the MYRIAD plugin
[ INFO ] Loading network files for VehicleAttribs
[ INFO ] Batch size is forced to 1 for Vehicle Attribs
[ INFO ] Checking VehicleAttribs inputs
[ INFO ] Checking Vehicle Attribs outputs
[ INFO ] Loading Vehicle Attribs model to the MYRIAD plugin
[ INFO ] Loading network files for Licence Plate Recognition (LPR)
[ INFO ] Batch size is forced to 1 for LPR Network
[ INFO ] Checking LPR Network inputs
[ INFO ] Checking LPR Network outputs
[ INFO ] Loading LPR model to the MYRIAD plugin
[ INFO ] Start inference
$ ./demo_security_barrier_camera.sh -d CPU
CPUの場合、40.38ns(24.76fps）が、MYRAIDの場合には、14.39ms(69.48 fps)になっています。あれ、2.8倍しか早くなっていない？
起動時のオーバーヘッドが大きいので、動画の処理でないと効果が発揮できないのかな。neural compute stick2は、早くならないって記事もあるみたいだし。
Raspberry Piで動かす
Intelには、もっと頑張ってもらって、是非、 Neural Compute Stick 2がRaspberry Piで動くようにしてほしい。と思っていたら、なんと、openvinoのforumsにありました。
https://software.intel.com/en-us/forums/computer-vision/topic/801630
書いてあるとおりにインストールして、Raspberry Pi３B+で実行しました。解説記事もありました。
pi@dnn:~/inference_engine_samples/armv7l/Release $ ./interactive_face_detection_demo -m face-detection-adas-0001.xml -d MYRIAD -i /dev/video0
4.7fpsがでていますが、画面の更新に、3秒程度の遅れが生じています。とりあえず、Raspberry Pi 3B+でも、Neural Compute Stick 2が動作しました。でも、Neural Compute Stick １の２倍程度の性能しか出ていないようです。
Neural Compute Stick 2が、Neural Compute Stick 1の８倍の性能ということなので、まだまだ、性能が引き出せていないのかもしれません。今後のアップデートを期待したいと思います。
備考
Raspberry Piのg++やgccは、6.3を使わないとコンパイルエラーが出ます。
$ gcc –version
もし、バージョンが違う場合には。
$ cd /usr/bin
$ sudo rm g++ cpp
$ sudo ln -s g++-6 g++
$ sudo ln -s cpp-6 cpp
とします。
OpenCVは、OpenVino対応にしたコンパイルが必要です。
cmake \
-DWITH_INF_ENGINE=ON \
-DENABLE_CXX11=ON \
：
OpenVino付属のOpenCVをPythonで使う場合には、
export PYTHONPATH=/opt/intel/computer_vision_sdk/python3.5/:$PYTHONPATH
とします。