Comparaison stratégique, technique et opérationnelle de trois briques d'IA souveraine : NOMAD, SLM Ollama + Mistral (gouvernance technique Windows) et AnythingLLM — puis la manière de les combiner.
🧭 Synthèse stratégique
Ces trois solutions ne sont pas de même nature : elles occupent des couches différentes d'une même architecture.
- NOMAD est une plateforme souveraine hors ligne complète, pensée comme un serveur de connaissance autonome.
- SLM Ollama + Mistral est un moteur d'inférence local gouverné : scripts PowerShell d'export, de déploiement et d'audit, orientés DevOps, portabilité et conformité.
- AnythingLLM est un assistant IA local prêt à l'emploi, orienté utilisateurs finaux et productivité.
En clair :
- NOMAD = souveraineté + résilience + éducation + connaissance
- Ollama/Mistral = gouvernance + automatisation + industrialisation
- AnythingLLM = productivité + simplicité + agents + multiplateforme
.png)
🧩 Comparaison détaillée
1. 🌐 NOMAD — serveur IA hors ligne de connaissance
Réf. : NOMAD + IA n'a pas besoin d'Internet — projet open source Project N.O.M.A.D. (Crosstalk Solutions), déployé et adapté par UGAIA.
Positionnement
- Solution 100 % hors ligne, pensée pour la résilience, la souveraineté et la continuité d'activité.
- Fournit un serveur complet : IA locale (Ollama), recherche documentaire (RAG avec Qdrant), Wikipédia hors ligne, cartes, e‑learning, bibliothèque, outils de données.
Forces
- Indépendance totale d'Internet : Kiwix (Wikipédia), Kolibri (e‑learning), ProtoMaps (cartes).
- Souveraineté forte : aucune télémétrie, licence Apache 2.0.
- Conteneurisation Docker : reproductible, portable.
- Écosystème complet : assistant IA + RAG + éducation + documentation + outils cyber (CyberChef).
Limites
- Moins orienté productivité immédiate.
- Nécessite un déploiement serveur (mini‑PC, NAS, machine dédiée).
- Moins d'automatisation fine que la gouvernance Ollama/Mistral.
Cas d'usage idéaux
- Continuité d'activité en cas de perte d'Internet.
- Éducation souveraine.
- Bibliothèque de connaissance locale.
- Homelab souverain.
.png)
Vidéo — pré‑maquette du projet NOMAD d'UGAIA (démonstration de l'interface, sans commentaire audio) :
2. 🛠️ SLM Ollama + Mistral — gouvernance technique (Windows, NPU)
Réf. : Gouvernance d'un SLM avec Ollama
Positionnement
- Solution technique, orientée DevOps, gouvernance, conformité et automatisation.
- Scripts PowerShell complets : export, déploiement, audit, portabilité, sécurité.
Forces
- Industrialisation : export de configuration, déploiement automatisé sur PC cible, audit de sécurité, gestion des modèles, journalisation.
- Gouvernance NPU : détection du NPU et configuration de repli. Précision : l'inférence Ollama s'exécute sur CPU ou GPU ; l'accélération NPU passe par un runtime dédié comme Microsoft Foundry Local.
- Conformité souveraine : isolation réseau, ACL, pare‑feu, journaux, audit.
- Portabilité : migration d'un PC à un autre en une commande.
Limites
- Nécessite des compétences Windows/PowerShell.
- Pas d'interface utilisateur riche comme AnythingLLM.
- Pas de modules de productivité (assistant de réunion, collecte web…).
.png)
Cas d'usage idéaux
- Gouvernance IA souveraine en entreprise.
- Déploiement sur un parc Windows.
- Appui à la conformité AI Act / NIS2 / DORA / RGPD.
- PC récents équipés de NPU (Intel Core Ultra), en complément de Foundry Local.
3. ⚡ AnythingLLM — assistant IA local prêt à l'emploi
Réf. : anythingllm.com — téléchargement
Installation LLMAnything.
Positionnement
- Application clé en main, orientée productivité personnelle et professionnelle.
- Version bureau pour Windows, macOS et Linux, et version Docker pour un usage serveur.
Forces
- Configuration minimale : on installe, on choisit un modèle, on travaille.
- Agents personnalisés via un éditeur visuel.
- Assistant de réunion (transcription et résumé en local).
- RAG documentaire local (« Document Knowledge »).
- Collecte web et recherche intégrées (à désactiver en mode souverain strict).
- Choix du modèle selon le matériel ; fournisseur Ollama ou Microsoft Foundry Local (CPU/GPU/NPU, Windows 11 24H2 minimum).
- Open source (licence MIT), multi‑utilisateur possible en version Docker.
Limites
- Moins souverain qu'un serveur hors ligne complet (NOMAD).
- Moins industrialisé qu'Ollama/Mistral pour la gouvernance.
- Dépend du système hôte (pas un serveur autonome en version bureau).
- Télémétrie anonyme activée par défaut : à désactiver dans les paramètres (ou via
DISABLE_TELEMETRY=trueen Docker) pour respecter un principe « zéro télémétrie ».
Cas d'usage idéaux
- Productivité quotidienne.
- Agents personnalisés — documentation agents.
- RAG documentaire local — RAG ou documents joints.
- Transcription de réunions sans cloud.
- Utilisateurs non techniques.
Vidéo — démonstration AnythingLLM :
🥇 Tableau comparatif (stratégique et technique)
| Critère | NOMAD | Ollama + Mistral (gouvernance) | AnythingLLM |
|---|---|---|---|
| Nature | Plateforme serveur | Moteur d'inférence gouverné | Application cliente |
| Souveraineté | ⭐⭐⭐⭐⭐ (hors ligne total) | ⭐⭐⭐⭐ (isolation réseau, audit) | ⭐⭐⭐ (local, télémétrie à désactiver) |
| Installation | Docker, serveur | Scripts PowerShell industrialisés | Installeur unique |
| NPU | Non | Détection et repli ; inférence Ollama sur CPU/GPU | Oui, via Foundry Local |
| Productivité | Moyenne | Faible (outil technique) | Très élevée |
| RAG documentaire | Oui (Ollama + Qdrant) ; corpus Kiwix, Kolibri | Oui (via un client RAG) | Oui (Document Knowledge) |
| Collecte web | Non | Non | Oui (désactivable) |
| Assistant de réunion | Non | Non | Oui |
| Portabilité | Conteneurs | Export/import complet | Multi‑OS |
| Appui à la conformité AI Act / NIS2 / RGPD | Forte (données hors ligne) | Très forte (audit, journaux, ACL) | Moyenne |
| Public cible | Homelab, éducation, résilience | DevOps, DSI, gouvernance IA | Utilisateurs finaux, PME |
Important : une IA locale facilite la conformité, elle ne la garantit pas. Les obligations de l'AI Act dépendent du rôle (fournisseur ou déployeur) et du niveau de risque du cas d'usage, pas du lieu d'exécution du modèle.
🎯 Quelle brique selon votre priorité ?
Souveraineté totale et résilience → NOMAD
Serveur autonome, hors ligne et complet, adapté à un contexte comme celui d'Andorre.
Gouvernance technique, conformité et industrialisation → Ollama + Mistral
Scripts PowerShell, audit, portabilité, gestion d'un parc Windows.
Productivité immédiate et agents personnalisés → AnythingLLM
Assistant de réunion, RAG, agents, multi‑OS, pour les usages quotidiens.
🔮 La combinaison : souveraineté + gouvernance + productivité
L'écosystème souverain complet associe les trois briques :
- NOMAD comme serveur de connaissance hors ligne ;
- Ollama + Mistral comme moteur IA gouverné et industrialisé ;
- AnythingLLM comme interface utilisateur productive et agents.
Vidéo — l'architecture combinée :
🗺️ Carte stratégique de l'IA souveraine 2026–2027
Lecture géopolitique, industrielle et technologique, appliquée à un contexte andorran et européen (homelab, souveraineté, NPU, Ollama, AnythingLLM, mémoire structurée).
1. Les trois blocs de souveraineté IA
🇺🇸 Bloc américain — souveraineté par le calcul et les modèles
- Acteurs : OpenAI, Anthropic, Google, Meta, Microsoft, Apple.
- Doctrine : domination par les modèles fondamentaux, les GPU, les NPU et les agents.
- Tendances : agents autonomes comme standard de productivité ; NPU généralisés dans les PC (Intel Core Ultra, AMD Ryzen AI, Qualcomm Snapdragon X, Apple Silicon) ; IA locale grand public (Foundry Local, Apple Intelligence sur l'appareil).
- Risques : dépendance au calcul, licences opaques, concentration extrême.
🇨🇳 Bloc chinois — souveraineté par l'intégration verticale
- Acteurs : Baidu, Alibaba (Qwen), Tencent, Huawei, iFlytek, DeepSeek.
- Doctrine : contrôle de toute la chaîne (modèles, calcul, cloud, données).
- Tendances : diffusion mondiale de modèles ouverts (Qwen, DeepSeek) ; calcul national (Huawei Ascend) ; IA intégrée aux super‑applications.
- Risques : confiance internationale limitée, sanctions et contrôles à l'export.
🇪🇺 Bloc européen — souveraineté par la régulation et l'industrie
- Acteurs : Mistral AI, Aleph Alpha, SiPearl, EuroHPC, OVHcloud, Scaleway ; en Suisse, le modèle ouvert Apertus.
- Doctrine : IA transparente, auditée, conforme (AI Act, RGPD).
- Tendances : essor des SLM locaux (petits modèles de langage) ; adoption d'Ollama en entreprise ; processeurs HPC européens (SiPearl Rhea).
- Risques : fragmentation, déficit de puissance de calcul, lenteur d'adoption.
2. Les quatre piliers de l'IA souveraine
- Calcul souverain — NPU généralisés (modèles de 3 à 14 milliards de paramètres en local), GPU locaux pour homelab et PME, edge AI et mini‑datacenters personnels.
- Modèles ouverts — familles Mistral (européenne), Phi (Microsoft, licence MIT), Llama (Meta, licence communautaire propre), Gemma, Qwen, Apertus ; SLM spécialisés sécurité, conformité, industrie.
- Gouvernance et conformité — audit, journaux, isolation réseau, bac à sable ; déploiement automatisé (PowerShell, Ansible) ; contrôles AI Act et RGPD.
- Connaissance souveraine — RAG local (AnythingLLM, Ollama + Qdrant), serveurs hors ligne (NOMAD), graphes de connaissance, bibliothèques locales (Kiwix, Kolibri).
3. Les trois architectures souveraines dominantes
| Architecture | Composants | Résultat |
|---|---|---|
| 🏠 A. IA locale personnelle (NPU + SLM) | AnythingLLM, Foundry Local, Ollama, modèles de 3 à 14 B | Productivité souveraine sans cloud |
| 🏢 B. IA souveraine d'entreprise | Ollama + Mistral, gouvernance SLM (audit, journaux, ACL), RAG interne, déploiement automatisé sur parc Windows | Appui à la conformité AI Act / NIS2 / DORA / RGPD |
| 🛰️ C. IA résiliente hors ligne | NOMAD, Kiwix, Kolibri, ProtoMaps, RAG hors ligne | Continuité d'activité sans Internet |
4. Les tendances structurantes
- L'IA locale devient courante : NPU, applications comme AnythingLLM, agents locaux.
- Les SLM gagnent du terrain face aux très grands modèles pour les usages métier : coût, rapidité, maîtrise des données.
- Le RAG souverain devient une bonne pratique incontournable pour exploiter les données internes sous contrôle.
- Les graphes de connaissance progressent : mémoire longue et raisonnement relationnel pour les agents.
- L'AI Act structure la gouvernance : journaux, transparence, évaluation des risques. Le local aide, sans dispenser de ces obligations.
5. Les risques systémiques
- Concentration du calcul (Nvidia, hyperscalers).
- Dépendance aux modèles américains.
- Fragmentation normative (États‑Unis, UE, Chine).
- Cyber + IA + agents : nouveaux vecteurs d'attaque.
- Perte de souveraineté documentaire (cloud).
- Absence de gouvernance IA dans les PME.
6. En une phrase
2026–2027 : l'IA souveraine passe du concept à la réalité grâce aux NPU, aux SLM, aux agents locaux et aux serveurs de connaissance hors ligne.
┌──────────────────────────────┐
│ IA souveraine 2027 │
└──────────────┬───────────────┘
┌───────────────┬────────┴───────┬────────────────┐
Calcul Modèles Connaissance Gouvernance
NPU / GPU Mistral / Phi NOMAD / RAG Audit / AI Act
/ Llama / graphe / RGPD
└───────────────┴────────┬───────┴────────────────┘
IA locale
(AnythingLLM + Ollama + mémoire structurée)
🧨 Matrice de risques — IA souveraine 2026–2027
Règle de cotation. Impact : Moyen = 2, Élevé = 3, Critique = 4. Probabilité : Faible = 1, Moyen = 2, Élevé = 3. Score = Impact × Probabilité.
Critique : score ≥ 8 — Élevé : score 6, ou impact Critique quelle que soit la probabilité (règle plancher) — Modéré : score ≤ 4.
Critique : score ≥ 8 — Élevé : score 6, ou impact Critique quelle que soit la probabilité (règle plancher) — Modéré : score ≤ 4.
🔥 1. Risques techniques
| ID | Risque | Impact | Proba. | Score | Contrôles | Preuves / indicateurs |
|---|---|---|---|---|---|---|
| T‑101 | Défaillance NPU / incompatibilité de pilotes | Élevé | Moyen | 6 | Scripts de détection NPU, repli CPU/GPU, Foundry Local | Journaux Foundry, dxdiag, tests de charge |
| T‑102 | Corruption des modèles (poids altérés) | Élevé | Faible | 3 | Empreinte SHA‑256, stockage en lecture seule | Empreintes vérifiées, alertes d'intégrité |
| T‑103 | Mauvaise isolation réseau d'Ollama | Critique | Moyen | 8 | Pare‑feu, ACL, mode hors ligne, audit PowerShell | Journaux pare‑feu, test des ports |
| T‑104 | RAG non déterministe / hallucinations | Élevé | Moyen | 6 | Corpus local vérifié (NOMAD), filtres, score de pertinence | Journaux RAG, comparaison des réponses |
| T‑105 | Dépendance à un runtime unique | Moyen | Moyen | 4 | Double runtime Ollama / Foundry Local, versionnage | Bancs d'essai multi‑runtime |
| T‑106 (nouveau) | Chaîne d'approvisionnement : images Docker ou dépôts tiers non audités | Élevé | Moyen | 6 | Revue du code et des licences, images épinglées par empreinte, dépôt interne | Inventaire des images, SBOM |
🔐 2. Risques de sécurité
| ID | Risque | Impact | Proba. | Score | Contrôles | Preuves / indicateurs |
|---|---|---|---|---|---|---|
| S‑201 | Exfiltration via les agents IA | Critique | Moyen | 8 | Bac à sable AnythingLLM, règles d'action, audit | Journaux des agents, historique des actions |
| S‑202 | Injection de prompts malveillants | Élevé | Moyen | 6 | Filtrage, règles de gouvernance SLM | Journaux de prompts, détection d'anomalies |
| S‑203 | Accès non autorisé au serveur NOMAD | Critique | Faible | 4 | Authentification locale, VLAN, NAS isolé | Journaux d'authentification |
| S‑204 | Fuite documentaire via le RAG | Élevé | Moyen | 6 | Cloisonnement des corpus, classification | Audit des corpus, tests de fuite |
| S‑205 | Agents autonomes non contrôlés | Critique | Faible | 4 | Limitation des actions, supervision humaine | Journal des actions, alertes |
| S‑206 (nouveau) | Télémétrie active par défaut dans un outil local | Élevé | Moyen | 6 | Désactivation vérifiée, blocage sortant au pare‑feu | Capture réseau, paramètres exportés |
🏛️ 3. Risques de conformité (AI Act / NIS2 / DORA / RGPD)
| ID | Risque | Impact | Proba. | Score | Contrôles | Preuves / indicateurs |
|---|---|---|---|---|---|---|
| C‑301 | Absence de journaux IA | Critique | Moyen | 8 | Audit PowerShell, journaux Ollama | Fichiers journaux horodatés |
| C‑302 | Absence d'explicabilité | Élevé | Moyen | 6 | Modèles documentés, fiches techniques | Fiches modèles, paramètres |
| C‑303 | Corpus non traçable | Élevé | Moyen | 6 | NOMAD + indexation + versionnage | Inventaire des corpus |
| C‑304 | Absence d'évaluation des risques | Critique | Moyen | 8 | Matrice de risques UGAIA© / AFEES©, AIPD si données personnelles | Matrice signée, AIPD |
| C‑305 | Modèles utilisés hors licence | Moyen | Faible | 2 | Vérification des licences (Apache 2.0, MIT, licence Llama) | Fiches licences |
🧩 4. Risques opérationnels
| ID | Risque | Impact | Proba. | Score | Contrôles | Preuves / indicateurs |
|---|---|---|---|---|---|---|
| O‑401 | Mauvaise gestion des versions de modèles | Élevé | Moyen | 6 | Versionnage Ollama, instantanés | Historique des versions |
| O‑402 | Perte de données NOMAD | Critique | Faible | 4 | Sauvegardes NAS, instantanés Docker | Journaux de sauvegarde |
| O‑403 | Agents mal configurés | Élevé | Moyen | 6 | Modèles de configuration, validation | Tests des agents |
| O‑404 | Charge CPU/NPU excessive | Moyen | Moyen | 4 | Supervision des ressources | Graphes de charge |
| O‑405 | Absence de supervision humaine | Critique | Faible | 4 | Alertes, limites d'action | Journal de supervision |
📚 5. Risques liés à la connaissance
| ID | Risque | Impact | Proba. | Score | Contrôles | Preuves / indicateurs |
|---|---|---|---|---|---|---|
| K‑501 | Corpus obsolète | Élevé | Moyen | 6 | Mise à jour NOMAD, indexation | Dates des corpus |
| K‑502 | Mauvaise structuration du graphe de connaissance | Moyen | Moyen | 4 | Ontologies, revue des graphes | Visualisation du graphe |
| K‑503 | RAG sur documents non validés | Élevé | Moyen | 6 | Classification, validation | Audit documentaire |
| K‑504 | Absence de mémoire longue | Moyen | Moyen | 4 | Graphe de connaissance + agents | Historique des concepts |
| K‑505 | Connaissance non souveraine | Critique | Faible | 4 | Corpus hors ligne, Kiwix | Inventaire des sources |
🧮 6. Synthèse par niveau
| Niveau | Risques |
|---|---|
| 🔴 Critique | T‑103, S‑201, C‑301, C‑304 |
| 🟠 Élevé | T‑101, T‑104, T‑106, S‑202, S‑204, S‑206, C‑302, C‑303, O‑401, O‑403, K‑501, K‑503 — et, par règle plancher : S‑203, S‑205, O‑402, O‑405, K‑505 |
| 🟡 Modéré | T‑102, T‑105, C‑305, O‑404, K‑502, K‑504 |
🛡️ 7. Recommandations immédiates (top 5)
- Activer la gouvernance SLM (scripts PowerShell) : journaux, audit, isolation.
- Sécuriser NOMAD : VLAN, NAS, authentification locale.
- Limiter les actions des agents AnythingLLM : bac à sable, validation humaine, télémétrie désactivée.
- Constituer un corpus souverain : NOMAD + Kiwix + Kolibri + graphe de connaissance.
- Versionner modèles et corpus : instantanés Ollama et Docker.
🏛️ Plan de gouvernance IA souveraine — Andorre / homelab (2026–2027)
Ce plan s'appuie sur une architecture réelle (NOMAD + Ollama/Mistral + AnythingLLM + graphe de connaissance + Foundry Local), sur les scripts de gouvernance SLM publiés sur ce blog, sur les exigences européennes (AI Act, NIS2, DORA, RGPD) et andorranes (loi 29/2021 qualifiée de protection des données personnelles), et sur les contraintes d'un homelab souverain (hors ligne, résilience, auditabilité, portabilité). Il est structuré comme un document COMEX/DSI, adapté à un mini‑datacenter souverain.
1. 🎯 Objectifs stratégiques
- Garantir une IA souveraine, sans dépendance au cloud.
- Appliquer les exigences de l'AI Act et du RGPD dès la conception, même en environnement personnel.
- Industrialiser l'IA locale via les scripts de gouvernance SLM (export, déploiement, audit).
- Sécuriser les modèles, les corpus et les agents.
- Structurer la connaissance locale (NOMAD + graphe de connaissance).
- Assurer la résilience en cas de perte d'Internet.
2. 🧩 Architecture de référence (quatre couches)
| Couche | Rôle | Composants |
|---|---|---|
| 1 — Connaissance | Serveur de connaissance souverain | NOMAD (Kiwix, Kolibri, ProtoMaps), corpus documentaire local (NAS, volumes Docker), RAG hors ligne (Qdrant) |
| 2 — Moteur IA | Inférence locale gouvernée | Ollama + Mistral / Phi‑4‑mini (CPU/GPU) ; Foundry Local en runtime parallèle pour le NPU ; scripts de gouvernance SLM |
| 3 — Interface, agents et mémoire | Usage et mémoire longue | AnythingLLM (agents, assistant de réunion, RAG local) ; graphe de connaissance « MuBrain » |
| 4 — Infrastructure | Socle matériel et réseau | Mini‑serveur Ubuntu + Docker ; PC Windows à NPU ; VLAN IA + pare‑feu ; NAS de sauvegarde et de versionnage |
3. 🛡️ Gouvernance technique (SLM Ollama/Mistral sous Windows)
3.1 Chemins et répertoires standard
%LOCALAPPDATA%\Programs\Ollama→ exécutables%USERPROFILE%\.ollama\models→ modèles (par défaut ; modifiable viaOLLAMA_MODELS)%LOCALAPPDATA%\Ollama\server.log→ journaux d'audit et de traçabilité
3.2 Variables d'environnement
OLLAMA_HOST=127.0.0.1:11434(isolation réseau)OLLAMA_MAX_LOADED_MODELS=1OLLAMA_KEEP_ALIVE=10mOLLAMA_MODELS=<chemin>(si les modèles sont stockés hors du profil)- Nombre de threads : paramètre
num_threaddans le Modelfile ou dans la requête API.
3.3 Gouvernance NPU
- Détection automatique via
Get-PnpDevice. - Repli sur CPU/GPU si le NPU est indisponible.
- Usage du NPU Intel via Foundry Local (Windows 11 24H2 minimum).
3.4 Scripts de gouvernance (cycle complet)
- Export : configuration, modèles, règles de pare‑feu, journaux.
- Deploy : installation silencieuse, restauration, ACL.
- Audit : cinq points de contrôle (installation, permissions, réseau, processus, modèles).
- Full : Export + Deploy + Audit.
4. 🔐 Gouvernance de la sécurité
- Isolation réseau : Ollama écoute uniquement sur
127.0.0.1; le port 11434 n'est autorisé qu'en local. - Permissions : accès limité à SYSTEM, aux administrateurs et à l'utilisateur autorisé.
- Audit continu : analyse des journaux (motifs error, unauthorized, suspicious) ; export automatique des audits en JSON.
- Agents AnythingLLM : bac à sable des actions ; pas d'accès réseau externe (collecte web désactivée) ; télémétrie désactivée ; validation humaine obligatoire pour toute action destructive.
- Composants tiers : aucun dépôt ni image Docker déployé sans revue préalable (licence, maintenance, contenu du
docker-compose.yml).
5. 📚 Gouvernance de la connaissance
- Corpus souverain : NOMAD (base documentaire hors ligne), Kiwix (Wikipédia), Kolibri (contenus éducatifs), ProtoMaps (cartographie).
- RAG souverain : RAG local via AnythingLLM, RAG hors ligne via NOMAD, indexation versionnée sur le NAS.
- Graphe de connaissance : structuration des concepts, mémoire longue des agents, navigation conceptuelle.
- Données personnelles : minimisation, registre des traitements, durée de conservation définie pour les corpus et les transcriptions de réunion.
6. 🧨 Risques prioritaires et contrôles
| Risques critiques ou élevés | Contrôles associés |
|---|---|
| Exfiltration via les agents | Agents limités, bac à sable, journal des actions |
| Corpus non traçable | Corpus hors ligne NOMAD, versionnage NAS |
| Modèles non versionnés | Instantanés, empreintes SHA‑256 |
| Absence de journaux IA | Scripts de gouvernance SLM (audit, journaux, ACL) |
| Absence d'explicabilité | Fiches modèles (Mistral, Phi, Llama, Gemma, Qwen) |
| Dépendance cloud involontaire ou télémétrie | Blocage sortant au pare‑feu, vérification des paramètres |
7. 🧮 Indicateurs de conformité
| Domaine | Indicateur | Source |
|---|---|---|
| Sécurité | Port 11434 isolé | Audit SLM |
| Modèles | Empreinte + version | NAS |
| Corpus | Inventaire + dates | NOMAD |
| Agents | Journal des actions | AnythingLLM |
| NPU | Détection + repli | Script SLM / Foundry Local |
| Journaux | Export JSON | Script SLM |
| Télémétrie | Aucun flux sortant non autorisé | Journaux pare‑feu |
8. 🛠️ Processus opérationnels (runbook)
| Fréquence | Actions |
|---|---|
| Quotidienne | Vérification des journaux Ollama ; supervision des agents AnythingLLM |
| Hebdomadaire | Instantané des modèles ; audit rapide SLM ; mise à jour du corpus NOMAD ; mise à jour du graphe de connaissance |
| Mensuelle | Audit complet (script Full) ; mise à jour des modèles ; vérification des ACL |
| Trimestrielle | Mise à jour Foundry Local, Docker et NOMAD ; revue de conformité AI Act / RGPD |
9. 🧭 Feuille de route
| Période | Jalons |
|---|---|
| T4 2026 | Stabilisation de l'architecture ; gouvernance SLM ; intégration NOMAD + RAG hors ligne |
| T1 2027 | Agents avancés AnythingLLM ; graphe de connaissance (mémoire longue) ; optimisation NPU |
| T2 2027 | Dossier de conformité AI Act (documentation + journaux) ; automatisation complète des audits |
| T3 2027 | Cluster IA local multi‑nœuds ; RAG hybride (hors ligne + structuré) |
🎯 Conclusion du plan
Ce plan fournit une gouvernance IA souveraine cohérente avec un homelab, des scripts SLM industrialisés, les exigences européennes et andorranes, la résilience hors ligne, la productivité locale (AnythingLLM) et la structuration de la connaissance. Prochaine étape : établir le plan de conformité AI Act 2027.
Pour aller plus loin sur ce blog :
⚡ AnythingLLM et Microsoft Foundry Local
AnythingLLM (site officiel, téléchargement) peut désormais utiliser Microsoft Foundry Local comme fournisseur de modèles sur les PC Windows (annonce). Points à retenir :
- Foundry Local exige Windows 11 version 24H2 ou ultérieure.
- Les modèles de vision ne sont pas encore disponibles via Foundry Local dans AnythingLLM (au moment de l'annonce).
- Le catalogue de modèles s'enrichit ; les retours se font sur le GitHub d'AnythingLLM ou sur le GitHub de Foundry Local pour les demandes côté moteur.
- Documentation : README de Foundry Local.
🧠 Couche 3 — la mémoire structurée « MuBrain »
« MuBrain » désigne ici la brique de mémoire à long terme structurée de l'architecture. Ce n'est pas un produit unique : plusieurs projets open source peuvent la réaliser (voir plus bas).
- Rôle : contrairement à un RAG classique, qui retrouve des extraits de texte par proximité vectorielle, la mémoire structurée organise l'information en graphe de connaissances (concepts et relations).
- Fonctionnement : extraction des entités (personnes, projets, concepts, règles) et de leurs liens à partir des échanges et des documents ; lorsqu'on interroge l'assistant (via AnythingLLM), le graphe fournit un contexte relié (« qui fait quoi », « comment X est lié à Y »).
- Intérêt souverain : la mémoire reste stockée localement, sans base vectorielle hébergée dans le cloud. Le chiffrement au repos dépend de l'outil retenu et doit être vérifié.
Exemples de fonctionnement
- Mémoire des choix d'architecture. Vous posez une règle : « Tous les conteneurs du homelab passent par le VLAN 20. » Le graphe relie
VLAN 20au nœudConfiguration réseau. Des semaines plus tard, lorsque vous demandez undocker-compose.yml, l'assistant applique la contrainte sans rappel. - Résolution des contradictions. Si la règle change (« Kiwix sera sur le VLAN 10 »), le lien est mis à jour ou l'ancienne règle archivée, pour éviter deux réponses contradictoires.
- Recherche multi‑sauts. « Quels services seraient touchés si le NAS tombe en panne ? » Le graphe parcourt les relations et liste les conteneurs reliés aux volumes du NAS.
Outils open source possibles
| Projet | Contenu annoncé | Lien |
|---|---|---|
| myBrAIn | Serveur MCP, tableau de bord Streamlit, visualisation du graphe, SQLite | GitHub |
| MemBrain | Extraction d'entités par LLM local, PostgreSQL/graphe, interface Vue 3 / FastAPI | GitHub |
| mcp-memory-graph | Serveur MCP léger de mémoire sémantique persistante | Fiche mcpservers.org |
Avant tout déploiement (risque T‑106) : vérifiez la licence, l'activité de maintenance et le contenu du
docker-compose.yml ; épinglez les images par empreinte ; testez d'abord sur un VLAN isolé.Exemple de déploiement de myBrAIn, après revue :
git clone https://github.com/lilium360/myBrAIn.git cd myBrAIn # relire docker-compose.yml, la licence et les dépendances avant de lancer docker compose up -d
🏗️ Couche 4 — le homelab
Le homelab est le socle matériel et réseau de tous les services d'IA et de stockage. Il fournit le calcul (CPU, GPU, NPU), le stockage et l'isolation réseau nécessaires pour faire fonctionner l'ensemble de façon autonome.
- OS et conteneurs : serveur Linux (Ubuntu Server) avec Docker, un conteneur par service (AnythingLLM, Ollama, Kiwix…).
- Station d'accélération : PC Windows avec GPU ou NPU pour l'inférence des SLM.
- Stockage NAS : bases de connaissance, sauvegardes, jeux de données volumineux.
- Sécurité et isolation : VLAN et règles de pare‑feu strictes interdisant tout flux sortant non sollicité vers Internet.
En résumé : le homelab est la fondation matérielle et réseau étanche ; la mémoire structurée relie les idées et conserve la mémoire des agents.
🔧 Faisabilité et mise en œuvre progressive
L'architecture est réalisable avec des briques cohérentes. Il faut toutefois distinguer ce qui s'installe rapidement de ce qui demande une orchestration plus poussée.
Ce qui est simple et rapide
- Ollama + AnythingLLM (couches 2 et 3) : un exécutable local ou un conteneur Docker fait tourner Ollama avec Mistral, Phi ou Llama ; AnythingLLM s'y connecte via l'API locale (
http://localhost:11434). - NOMAD / Kiwix (couche 1) : un serveur Kiwix en Docker pour lire des fichiers ZIM (Wikipédia, documentation hors ligne) se lance en une commande.
- Foundry Local (couche 2) : runtime distinct d'Ollama, qui gère lui‑même l'exécution sur CPU, GPU ou NPU selon le matériel.
Ce qui demande plus d'effort
- Mémoire structurée (couche 3) : c'est la partie la plus technique. Un moteur de graphe (type Neo4j ou équivalent) couplé à un extracteur d'entités exige des chaînes d'extraction automatique pour transformer le texte en nœuds et relations. Conseil : démarrer avec le RAG vectoriel natif d'AnythingLLM, puis ajouter le graphe dans un second temps.
- Segmentation réseau et sécurité (couche 4) : isoler le homelab par VLAN et interdire les flux sortants tout en autorisant les flux internes demande une bonne maîtrise du routeur ou pare‑feu (OPNsense, pfSense, UniFi).
Bilan
| Composant | Faisabilité | Effort d'installation |
|---|---|---|
| AnythingLLM + Ollama | Très élevée | Facile (1 à 2 heures) |
| NOMAD / Kiwix hors ligne | Très élevée | Facile (30 min) |
| Docker / infrastructure de base | Très élevée | Moyen (quelques heures) |
| Graphe de connaissance | Élevée | Avancé (projet à part entière) |
| Isolation VLAN / SecOps | Élevée | Moyen à avancé |
Pour éviter l'effet « usine à gaz », procédez par étapes :
- Monter le socle Docker avec Ollama, AnythingLLM et Kiwix.
- Segmenter le réseau (VLAN).
- Intégrer la mémoire structurée une fois l'inférence locale stabilisée.
🕶️ Pourquoi maintenant : le « shadow AI »
Nicolas Naully, auteur de Guérill‑iA (GERESO), décrit une scène devenue banale : un lundi matin, un collaborateur colle un dossier client dans un outil d'IA gratuit ; personne ne l'a autorisé, personne ne l'a interdit, et l'équipe entière suit. Rien ne bouge dans les registres de l'organisation, tout change sur le terrain.
C'est le shadow AI : des outils d'IA utilisés sans validation ni déclaration, qui échappent au radar de l'organisation. Le phénomène prolonge le shadow IT, avec un enjeu de plus : ce qui sort de l'entreprise, ce ne sont plus seulement des fichiers, mais des données et des décisions.
Ce n'est pas un problème d'IA, c'est un problème de signature. — Nicolas Naully
Sa réponse tient en quatre actions, que nous reprenons à notre compte :
- Recenser les usages réels, pas seulement ceux qui sont déclarés.
- Rédiger une règle d'usage courte, lisible en deux minutes.
- Proposer un outil autorisé — sinon chacun garde le sien.
- Nommer un signataire responsable pour chaque outil.
L'outil autorisé, c'est précisément ce que permet l'architecture décrite ici : une IA locale, gouvernée et auditée, installée chez vous. Pour en discuter : UGAIA.
Source du scénario shadow AI : Nicolas Naully, Guérill‑iA, éditions GERESO.
Mon CV Dynamique https://gouver2020.blogspot.com/p/mon-cv-dynamique.html
.png)
.png)
