Si può configurare ollama in locale utilizzando open webui come interfaccia per l’interrogazione in locale.
I passi sono i seguenti:
- Scaricare e installare Ollama dal sito ollama.com
- Scaricare e installare miniconda per python dal sito anaconda.com
- Aprire il terminale di anaconda e creare un nuovo environment con il comando
conda create -n openwebui python=3.11 - Attivare l’ambiente appena generato:
conda activate openwebui - Installare il pacchetto openwebui:
pip install open-webui - Aprire un terminale e scaricare il modello phi4-mini da ollama:
ollama pull phi4-mini - Nell’ambiente anaconda lanciare l’interfaccia openwebui:
open-webui serve - Ora si può aprire un browser e richiamare la pagina:
http://localhost:8080
Ora si può usare l’interfaccia web per l’interrogazione di ollama.
Se si intende utilizzare ollama con la gpu intel si devono seguire le istruzioni di Intel contenute al seguente link:
https://cdrdv2-public.intel.com/826081/826081_Running%20Ollama%20with%20Open%20WebUI%20on%20Intel%20Hardware%20Platform_1.0.pdf