IA : Installer un Modèle de Langage (LLM) avec Ollama

De Wiki de Mémoire Vive
Aller à la navigation Aller à la recherche

Source : https://www.linuxtricks.fr/wiki/ia-installer-un-modele-de-langage-llm-avec-ollama

Installer Ollama

Télécharger l’archive Ollama : 

wget https://ollama.com/download/ollama-linux-amd64.tgz

Extraire l’archive : 

tar -C /usr -xvzf ollama-linux-*.tgz

Créer un utilisateur et un groupe dédié (ollama): 

useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama

Ajouter un utilisateur (mv) dans le groupe ollama : 

usermod -a -G ollama mv

Création d’un service systemd : 

nano /etc/systemd/system/ollama.service

[Unit] Description=Ollama Service After=network-online.target [Service] ExecStart=/usr/bin/ollama serve User=ollama Group=ollama Restart=always RestartSec=3 Environment="PATH=$PATH" [Install] WantedBy=default.target

Recharger systemd : 

systemctl daemon-reload

Activer et démarrer le service : 

systemctl enable --now ollama

Pour voir les logs : 

journalctl -u ollama
Récupérée de « https://wiki.memoirevive79.mooo.com/index.php?title=IA_:_Installer_un_Modèle_de_Langage_(LLM)_avec_Ollama&oldid=2382 »