2.2 KiB
2.2 KiB
| question |
|---|
| aide moi à choisir des models deepseek distilled r1 pour ollama. J'ai des tâche simples (non-reasoning |
Pour des tâches simples qui ne nécessitent pas de raisonnement poussé, les modèles distillés de DeepSeek sont un excellent choix. Ils sont légers, rapides et faciles à exécuter en local avec Ollama.
Voici une sélection de modèles pour différents niveaux de matériel, du plus accessible au plus performant.
📊 Comparatif des modèles pour Ollama
| Modèle Ollama | Paramètres | VRAM estimée (quantification Q4) | Idéal pour |
|---|---|---|---|
deepseek-r1:1.5b |
1.5B | ~1.5 Go | Tests, CPU uniquement, très petits appareils |
deepseek-r1:7b |
7B | ~5-6 Go | La plupart des PC avec un GPU 8 Go+ (RTX 3060/4060). Bon équilibre vitesse/qualité. |
deepseek-r1:14b |
14B | ~9 Go | GPU 12-16 Go (RTX 4060 Ti 16 Go). Meilleure compréhension pour des tâches un peu plus complexes. |
deepseek-r1:32b |
32B | ~20 Go | GPU haut de gamme 24 Go (RTX 3090/4090). Performances très solides. |
💡 Comment faire votre choix ?
- Vérifiez votre matériel : La limite principale est la VRAM de votre carte graphique. Utilisez les chiffres du tableau comme guide. La quantification (
Q4_K_Mest un bon compromis) permet de réduire la taille du modèle. - Privilégiez la vitesse pour les tâches simples : Pour des tâches comme le chat, la génération de texte basique ou le résumé, un modèle 7B est un excellent point de départ. Il est rapide et offre de bonnes performances.
- Évitez les très petits modèles : Les modèles 1.5B peuvent parfois être lents ou produire des réponses de moindre qualité. Le 7B est généralement considéré comme le seuil minimum pour des résultats satisfaisants.
En résumé : Commencez par tester deepseek-r1:7b. C'est le modèle "couteau suisse" pour la plupart des usages. Si vous avez une carte graphique plus puissante (16 Go de VRAM ou plus), le deepseek-r1:14b vous offrira une qualité de réponse supérieure, même pour des questions simples.
Pour lancer l'un de ces modèles, utilisez simplement la commande : ollama run deepseek-r1:7b (en remplaçant 7b par la taille choisie).