usage du prompt ollama
This commit is contained in:
parent
f666f7e69f
commit
a348617545
1 changed files with 49 additions and 3 deletions
|
|
@ -2,8 +2,54 @@
|
||||||
|
|
||||||
## Quel LLM pour les expériences ?
|
## Quel LLM pour les expériences ?
|
||||||
|
|
||||||
Le LLM utilisé pour les expériences est deepseek-r1:7b.
|
- L'outil utilisé pour les expériences est ollama
|
||||||
Pourquoi un reasoning model ? Pour voir les "inner thoughts" du model.
|
- Le LLM utilisé pour les expériences est deepseek-r1:7b.
|
||||||
Pour voir s'il "comprend" correctement la question.
|
P
|
||||||
|
ourquoi un reasoning model ? Pour voir les "inner thoughts" du model.
|
||||||
|
Pour voir s'il "comprend" correctement la question. On passera à un truc plus léger
|
||||||
|
ultérieurement.
|
||||||
|
|
||||||
|
## installation de ollama
|
||||||
|
|
||||||
|
`curl https://ollama.ai/install.sh | sh`
|
||||||
|
|
||||||
|
|
||||||
|
curl https://ollama.ai/install.sh | sh
|
||||||
|
(...)
|
||||||
|
>>> Installing ollama to /usr/local/bin...
|
||||||
|
>>> Creating ollama user...
|
||||||
|
>>> Adding ollama user to render group...
|
||||||
|
>>> Adding current user to ollama group...
|
||||||
|
>>> Creating ollama systemd service...
|
||||||
|
>>> Enabling and starting ollama service...
|
||||||
|
Created symlink /etc/systemd/system/default.target.wants/ollama.service
|
||||||
|
→ /etc/systemd/system/ollama.service.
|
||||||
|
>>> The Ollama API is now available at 0.0.0.0:11434.
|
||||||
|
>>> Install complete. Run "ollama" from the command line.
|
||||||
|
|
||||||
|
|
||||||
|
Ou bien, sous ubuntu:
|
||||||
|
|
||||||
|
snap install ollama
|
||||||
|
|
||||||
|
|
||||||
|
## construction du prompt rougail-ai
|
||||||
|
|
||||||
|
- Ouvrir un terminal dans le dossier `prompt` du projet `rougail-ai`
|
||||||
|
- Lancer la commande
|
||||||
|
|
||||||
|
ollama create rougail_ai -f rougail.modelfile
|
||||||
|
|
||||||
|
ollama create rougail_ai -f rougail.modelfile
|
||||||
|
gathering model components
|
||||||
|
pulling manifest
|
||||||
|
(...)
|
||||||
|
writing manifest
|
||||||
|
|
||||||
|
Le prompt est prêt à être utilisé.
|
||||||
|
|
||||||
|
- Lancer la commande
|
||||||
|
|
||||||
|
ollama run rougail_ai
|
||||||
|
|
||||||
|
Les expériences sont prêtes à être réalisées.
|
||||||
|
|
|
||||||
Loading…
Reference in a new issue