usage du prompt ollama
This commit is contained in:
parent
f666f7e69f
commit
a348617545
1 changed files with 49 additions and 3 deletions
|
|
@ -2,8 +2,54 @@
|
|||
|
||||
## Quel LLM pour les expériences ?
|
||||
|
||||
Le LLM utilisé pour les expériences est deepseek-r1:7b.
|
||||
Pourquoi un reasoning model ? Pour voir les "inner thoughts" du model.
|
||||
Pour voir s'il "comprend" correctement la question.
|
||||
- L'outil utilisé pour les expériences est ollama
|
||||
- Le LLM utilisé pour les expériences est deepseek-r1:7b.
|
||||
P
|
||||
ourquoi un reasoning model ? Pour voir les "inner thoughts" du model.
|
||||
Pour voir s'il "comprend" correctement la question. On passera à un truc plus léger
|
||||
ultérieurement.
|
||||
|
||||
## installation de ollama
|
||||
|
||||
`curl https://ollama.ai/install.sh | sh`
|
||||
|
||||
|
||||
curl https://ollama.ai/install.sh | sh
|
||||
(...)
|
||||
>>> Installing ollama to /usr/local/bin...
|
||||
>>> Creating ollama user...
|
||||
>>> Adding ollama user to render group...
|
||||
>>> Adding current user to ollama group...
|
||||
>>> Creating ollama systemd service...
|
||||
>>> Enabling and starting ollama service...
|
||||
Created symlink /etc/systemd/system/default.target.wants/ollama.service
|
||||
→ /etc/systemd/system/ollama.service.
|
||||
>>> The Ollama API is now available at 0.0.0.0:11434.
|
||||
>>> Install complete. Run "ollama" from the command line.
|
||||
|
||||
|
||||
Ou bien, sous ubuntu:
|
||||
|
||||
snap install ollama
|
||||
|
||||
|
||||
## construction du prompt rougail-ai
|
||||
|
||||
- Ouvrir un terminal dans le dossier `prompt` du projet `rougail-ai`
|
||||
- Lancer la commande
|
||||
|
||||
ollama create rougail_ai -f rougail.modelfile
|
||||
|
||||
ollama create rougail_ai -f rougail.modelfile
|
||||
gathering model components
|
||||
pulling manifest
|
||||
(...)
|
||||
writing manifest
|
||||
|
||||
Le prompt est prêt à être utilisé.
|
||||
|
||||
- Lancer la commande
|
||||
|
||||
ollama run rougail_ai
|
||||
|
||||
Les expériences sont prêtes à être réalisées.
|
||||
|
|
|
|||
Loading…
Reference in a new issue