# Les expériences 

## Quel LLM pour les expériences ? 

- L'outil utilisé pour les expériences est ollama
- Le LLM utilisé pour les expériences est `deepseek-r1:7b` et aussi le distilled deepseek-r1 qwen. 

Pourquoi un reasoning model ? Pour voir les "inner thoughts" du model.
Pour voir s'il "comprend" correctement la question. On passera à un truc plus léger 
ultérieurement.

Tests des LLM plus légers: 

- phi3-medium : trop lent
- mistral 7b : peu pertinent malheureusement:

```
    >>> what is the HTTPS Proxy variables' group name ?
     The HTTPS Proxy variables are part of the "Manual proxy configuration" group.
```

- maternion/minicpm5:2b plutôt pas mal, même si ses "inner thouths" sont un peu bizarre 

```
    The HTTPS Proxy variables belong to the group named **HTTPS Proxy**.
```
- phi3: c'est dur de l'admettre (c'est le modèle open source de microsoft)
   mais il a l'air de donner de bon résultats:

```
>>> what is the HTTPS Proxy variables' group name ?
The group name for the HTTPS Proxy variables is "manual.https_proxy".
```

## installation de ollama

`curl https://ollama.ai/install.sh | sh`


    curl https://ollama.ai/install.sh | sh
    (...)
    >>> Installing ollama to /usr/local/bin...
    >>> Creating ollama user...
    >>> Adding ollama user to render group...
    >>> Adding current user to ollama group...
    >>> Creating ollama systemd service...
    >>> Enabling and starting ollama service...
    Created symlink /etc/systemd/system/default.target.wants/ollama.service
    → /etc/systemd/system/ollama.service.
    >>> The Ollama API is now available at 0.0.0.0:11434.
    >>> Install complete. Run "ollama" from the command line.


Ou bien, sous ubuntu:

    snap install ollama
    
    
## construction du prompt rougail-ai

- Ouvrir un terminal dans le dossier `prompt` du projet `rougail-ai`
- Lancer la commande :

```
    ollama create rougail_ai -f rougail.modelfile
    
    gathering model components 
    pulling manifest 
    (...)
    writing manifest 
```

Le prompt est prêt à être utilisé.

- Lancer la commande 

```
    ollama run rougail_ai

```
Les expériences sont prêtes à être réalisées.