Ollama

Qu’est-ce que Ollama ?

Ollama a été lancé à la fin de 2023 par l'équipe derrière le modèle Llama populaire. Il est fourni sous forme d'outil en ligne de commande simple qui télécharge les binaires de modèles, les stocke localement et expose une API REST pour l'inférence. Le projet reçoit des mises à jour régulières, la dernière version ajoutant la prise en charge de l'accélération GPU sur les matériels NVIDIA et AMD.

Le public cible est composé de développeurs, de chercheurs et d'utilisateurs avancés qui souhaitent expérimenter avec les LLM sur leurs propres machines. Il est particulièrement utile pour ceux qui préfèrent ne pas dépendre des services cloud en raison de préoccupations de confidentialité ou de bande passante.

Par rapport aux assistants IA centrés sur Windows comme Microsoft Copilot, Ollama est plus pratique. Vous contrôlez l'ensemble de la pile, de la sélection du modèle à la vitesse d'inférence, et vous pouvez l'intégrer dans des scripts ou des IDE sans attendre le cycle de mise à jour d'un fournisseur.

Idéal pour : Utilisateurs qui ont besoin d'un contrôle total sur les LLM et préfèrent l'inférence locale aux services cloud.

Fonctionnalités clés de Ollama

• Hébergement local de modèles via Docker ou binaires natifs
• Prise en charge de Llama, Mistral et d'autres modèles open‑source
• Accélération GPU avec CUDA, ROCm ou fallback CPU
• API REST pour une intégration facile
• CLI pour le téléchargement, la liste et la suppression de modèles
• Quantification intégrée des modèles pour économiser de la mémoire
• Emballage multiplateforme (Arch, openSUSE, Fedora)

Conseils pour les utilisateurs de Windows

Si vous venez de Microsoft Copilot, notez qu'Ollama ne fournit pas d'assistant graphique prêt à l'emploi. Vous interagirez via la ligne de commande ou en appelant son API REST depuis des scripts. Les fichiers de modèles sont stockés dans ~/.ollama/models, et vous pouvez basculer les modèles avec ollama list et ollama use <name>. Les raccourcis clavier sont inutiles ; concentrez-vous plutôt sur les points de terminaison API et les indicateurs CLI. Changement de flux de travail : au lieu d'un assistant intégré unique, vous exécuterez un serveur local et enverrez des invites de façon programmatique.