60 lines
1.5 KiB
Markdown
60 lines
1.5 KiB
Markdown
# Les expériences
|
|
|
|
## Quel LLM pour les expériences ?
|
|
|
|
- L'outil utilisé pour les expériences est ollama
|
|
- Le LLM utilisé pour les expériences est deepseek-r1:7b.
|
|
P
|
|
ourquoi un reasoning model ? Pour voir les "inner thoughts" du model.
|
|
Pour voir s'il "comprend" correctement la question. On passera à un truc plus léger
|
|
ultérieurement.
|
|
|
|
## installation de ollama
|
|
|
|
`curl https://ollama.ai/install.sh | sh`
|
|
|
|
|
|
curl https://ollama.ai/install.sh | sh
|
|
(...)
|
|
>>> Installing ollama to /usr/local/bin...
|
|
>>> Creating ollama user...
|
|
>>> Adding ollama user to render group...
|
|
>>> Adding current user to ollama group...
|
|
>>> Creating ollama systemd service...
|
|
>>> Enabling and starting ollama service...
|
|
Created symlink /etc/systemd/system/default.target.wants/ollama.service
|
|
→ /etc/systemd/system/ollama.service.
|
|
>>> The Ollama API is now available at 0.0.0.0:11434.
|
|
>>> Install complete. Run "ollama" from the command line.
|
|
|
|
|
|
Ou bien, sous ubuntu:
|
|
|
|
snap install ollama
|
|
|
|
|
|
## construction du prompt rougail-ai
|
|
|
|
- Ouvrir un terminal dans le dossier `prompt` du projet `rougail-ai`
|
|
- Lancer la commande :
|
|
|
|
```
|
|
ollama create rougail_ai -f rougail.modelfile
|
|
|
|
ollama create rougail_ai -f rougail.modelfile
|
|
gathering model components
|
|
pulling manifest
|
|
(...)
|
|
writing manifest
|
|
```
|
|
|
|
Le prompt est prêt à être utilisé.
|
|
|
|
- Lancer la commande
|
|
|
|
```
|
|
ollama run rougail_ai
|
|
|
|
```
|
|
Les expériences sont prêtes à être réalisées.
|
|
|