installazione openvino su raspberry pi 3

IN realtà è preferibile seguire la seguente procedura, come descritto al link Installing OpenVino for Movidius NCS2 on Raspberry Pi 4 – Intel Community

Cross-Compiling OpenVINO™ Toolkit and NCS2 Plugin Using… (intel.com)

Quando si giunge alla fase in cui è necessario installare docker, seguire la seguente guida:

Install Docker Engine on Raspbian | Docker Documentation

Nella documentazione di cui sopra, c’è un piccolo punto da correggere. Quando fa riferimento alle righe da cambiare in un file sh, in particolare, le seguenti:

77 checkSrcTree $OPENCV_HOME https://github.com/opencv/opencv.git 4.5.5-openvino-2022.1

Va aggiunto uno zero in fondo, in quanto non esistono tags di quella libreria con quel nome. Quindi la stringa corretta è la seguente:

77 checkSrcTree $OPENCV_HOME https://github.com/opencv/opencv.git 4.5.5-openvino-2022.1.0

La compilazione delle demos di model_zoo

Per compilare le demos contenute in openvino_dist/extras/open_model_zoo/demos si deve lanciare il solito openvino_dist/setupvars.sh e poi andare nel direttorio demos e lanciare il comando:

./build_demos.sh

Per farlo, c’è bisogno di scaricare il progetto thirdparty, che stranamente non compare nel progetto base.

Questo si scarica andando nel direttorio vuoto demos/thirdparty e lanciando:

git clone https://github.com/gflags/gflags.git

che è un progetto che è in dipendenza da demos.

Si può compilare anche un solo progetto demos, indicando il parametro –target=”nomeprogetto”.

Per eseguire le demos realizzate in python è necessario preliminarmente lanciare il seguente comando:

pip install <omz_dir>/demos/common/python

e successivamente installare i seguenti pacchetti:

sudo apt install libatlas-base-dev
sudo pip3 install pybind11
pip3 install scipy

Prima di eseguire i comandi python ricordarsi di eseguire il source seguente:
source (home)/openvino_dist/setupvars.sh

Per installazione su sistemi diversi da raspberry, si può seguire la guida ufficiale, come di seguito.

Per l’installazione è necessario usare pip.

Step 1: Create virtual environment

python -m venv openvino_env

Step 2: Activate virtual environment

source openvino_env\bin\activate

Step 3: Upgrade pip to latest version

python -m pip install --upgrade pip

Step 4: Download and install the package

pip install openvino-dev==2022.3.1

Vedere le istruzioni alternative in:

Install OpenVINO™ toolkit for Raspbian* OS — OpenVINO™ documentation — Version(2021.4)

La pagina con istruzioni alternative (a mo’ di tutorial) si trova qui:

OpenVINO, OpenCV, and Movidius NCS on the Raspberry Pi – PyImageSearch

Mancano i file per eseguire il tutorial, ma si possono eseguire altri tutorial presi in altre pagine.

Per caricare i models di openvino, fare riferimento alla seguente pagina:

Install OpenVINO™ Runtime for Raspbian OS — OpenVINO™ documentation — Version(2022.1)

Per installare il development tools, usare il seguente link:

openvino-dev · PyPI

Quando si esegue il comando

pip install openvino-dev[tensorflow2,mxnet,caffe]

questo non funziona a causa di un issue (PyPI .tar.gz missing editdistance/bycython.pyx · Issue #105 · roy-ht/editdistance (github.com)), con la libreria editdistance, che nella versione 0.6.2 non contiene il file editdistance/bycython.pyx

A questo punto, procedere con l’installazione manuale della libreria editdistance, scaricando il file che si trova nelle Releases (che sono misteriosamente corrette), al seguente link:

Release Release v0.6.2 · roy-ht/editdistance (github.com)

e poi lanciare pip install file.tgz

Openvino – download dei modelli di inferenza in formato IR

Per poter utilizzare openvino con i modelli già predisposti da intel è necessario averli in formato ottimizzato.

Per far ciò è sufficiente accedere alla directory

/opt/intel/openvino/deployment_tools/open_model_zoo/tools/downloader

qui si deve lanciare l’aggiornamento delle dipendenze:

python3 -mpip install –user -r ./requirements.in

e successivamente si può lanciare il download di tutti i modelli:

./downloader.py –all

Questo comando trasferirà tutti i modelli nella directory intel, pronti per essere utilizzati.

OpenVino – creare i progetti demo con visual studio 2019

Per iniziare ad usare OpenVino è possibile utilizzare i modelli demo, contenuti nel direttorio:

C:\Program Files (x86)\IntelSWTools\openvino_2020.1.033\deployment_tools\open_model_zoo\demos

Prima di utilizzarli è necessario generare i progetti visual studio per ciascun demo. E’ sufficiente lanciare il comando:

build_demos_msvc.bat

Questo lancerà tutta una serie di comandi cmake, uno per ogni progetto, generando tutti i progetti all’interno del direttorio:

C:\Users\NomeUtente\Documents\Intel\OpenVINO\omz_demos_build

Questi si potranno lanciare nell’IDE visual studio uno alla volta oppure utilizzando la comoda soluzione demos.sln che li genererà tutti insieme.

Il risultato sarà compilato nel direttorio:

C:\Users\NomeUtente\Documents\Intel\OpenVINO\omz_demos_build\intel64\Debug

Ovviamente si potranno compilare anche in versione Release.

Prima di lanciare uno qualsiasi degli eseguibili generati è necessario impostare alcune variabili d’ambiente. E’ sufficiente eseguire il comando setupvars.bat che si trova in:

C:\Program Files (x86)\IntelSWTools\openvino_2020.1.033\bin

e nello stesso prompt andare nel direttorio dove si trovano gli eseguibili generati e eseguire da lì i programmi.

OpenVino – scaricare i modelli di apprendimento per Inferenza

Dopo aver configurato OpenVino e scaricato tutte le dipendenze, incluso python3, per eseguire inferenze sui diversi modelli disponibili è necessario scaricare i modelli disponibili online.

Questo modelli sono file con estensione .xml e .bin e ve ne sono per ogni tipo di inferenza, come face detection, pose detection, car detection e così via.

Per scaricare questi documenti è necessario aprire una finestra del prompt e eseguire il comando:

python ./downloader.py –all –output_dir c:/intel/models

Questo scaricherà tutto l’albero dei modelli di inferenza nel direttorio indicato.

Il comando downloader.py si trova nel direttorio:

C:\Program Files (x86)\IntelSWTools\openvino_2020.1.033\deployment_tools\open_model_zoo\tools\downloader