Configurare Open webui con Ollama

Si può configurare ollama in locale utilizzando open webui come interfaccia per l’interrogazione in locale.
I passi sono i seguenti:

  1. Scaricare e installare Ollama dal sito ollama.com
  2. Scaricare e installare miniconda per python dal sito anaconda.com
  3. Aprire il terminale di anaconda e creare un nuovo environment con il comando
    conda create -n openwebui python=3.11
  4. Attivare l’ambiente appena generato:
    conda activate openwebui
  5. Installare il pacchetto openwebui:
    pip install open-webui
  6. Aprire un terminale e scaricare il modello phi4-mini da ollama:
    ollama pull phi4-mini
  7. Nell’ambiente anaconda lanciare l’interfaccia openwebui:
    open-webui serve
  8. Ora si può aprire un browser e richiamare la pagina:
    http://localhost:8080

Ora si può usare l’interfaccia web per l’interrogazione di ollama.

Lascia un commento