Affichage des articles dont le libellé est docker. Afficher tous les articles

8/22/2026

De la Dictature par Convenance à NOMAD

NOMAD

De la Dictature par Convenance à l'Autonomie Numérique Opérationnelle

Une réponse concrète à la gouvernance souveraine de l'IA

Lire l'article complet →

Partie 1 : Le Diagnostic

L'illusion de la commodité

Vous ouvrez Gmail, vous stockez vos fichiers sur OneDrive, vous demandez à ChatGPT de rédiger vos emails. C'est pratique, c'est gratuit (ou presque), c'est déjà là. Les GAFAM+N nous ont promis une simplification radicale : oubliez les serveurs, oubliez la maintenance, oubliez la complexité. Payez par utilisation, et laissez-nous gérer le reste.

Sauf que cette « commodité » a un prix invisible : votre autonomie opérationnelle.

L'exposition géopolitique réelle

En 2026, avec l'escalade des régulations américaines, l'AI Act européen qui renforce le contrôle local, et des câbles sous-marins régulièrement coupés, l'infrastructure cloud n'est plus une commodité. C'est un risque existentiel.

⚠️ Le risque chiffré

65-80% de probabilité d'une perturbation majeure des services cloud américains en Europe d'ici 2028.

Pas une hypothèse farfelue : les incidents de grande ampleur (câbles sous-marins coupés, régulations politiques soudaines, faillites) se multiplient.

Quelle est votre plan B ? Continuer à dépendre de services cloud sans alternative locale, c'est jouer à la roulette russe avec votre opération.

Conformité comme avantage compétitif

RGPD, AI Act, DORA, NIS2 : Gérer l'IA en local demande plus de rigueur, mais rend la conformité non seulement possible mais observable. Vous ne demandez plus « Où OpenAI envoie mes données ? » — vous savez déjà. Vous maîtrisez l'audit. Vous contrôlez la rétention. Vous documentez chaque décision du modèle.

Partie 2 : La Solution — Projet NOMAD

Philosophie : Une Connaissance qui Ne s'Éteint Jamais

Project NOMAD est un serveur autonome, hors ligne, de connaissance et d'éducation. Rempli d'outils, de connaissances et d'IA essentiels, il vous tient informé et autonome — à tout moment, n'importe où.

🔒 Principes fondamentaux
Aucune dépendance Internet : Une fois configuré, fonctionne entièrement en local
Aucune télémétrie : Zéro données envoyées elsewhere
Zéro intrusion : Votre infrastructure vous appartient entièrement
Gratuit et open-source : Code auditable, licence Apache 2.0

Les chiffres qui parlent

79%

moins cher que le cloud en 5 ans

6 mois

break-even vs ChatGPT/API Cloud

Architecture Technique : Docker, Ollama et les SLM

Conteneurisation (Docker)

Tous les composants tournent dans des conteneurs orchestrés par un Centre de Commande. Cette approche offre :

Isolation : chaque service fonctionne indépendamment
Portabilité : déployez sur n'importe quel système Debian
Mise à jour atomique : pas de « dette technique »
Audit : logs et comportements inspectables

Backend intelligent (Node.js + AdonisJS)

Le Centre de Commandement repose sur Node.js et TypeScript avec le framework AdonisJS. Cette architecture permet :

Tâches asynchrones robustes (Redis pour les queues)
API stable et prévisible pour l'intégration d'outils tiers
Base de données MySQL pour stockage persistant

Frontend intuitif (React + Vite)

L'interface utilisateur est construite avec React et Vite, garantissant une expérience réactive même sur du matériel léger. Aucun appel vers Google ou Microsoft : tout fonctionne en local.

Ollama : Le Cœur de l'IA Décentralisée

Par défaut, NOMAD utilise Ollama pour exécuter les modèles LLM en local. Ollama offre :

Accès à des centaines de modèles open-source (Llama, Mistral, Phi-4, etc.)
Optimisations GPU/CPU automatiques
API compatible avec OpenAI (réutilisation d'outils existants)
Aucune traçabilité externe : vos prompts ne quittent jamais votre machine

Docker Node.js TypeScript AdonisJS React Vite MySQL Redis Ollama Qdrant

Composants Inclus et Leurs Vertus Souveraines

🤖 Assistant IA avec RAG

Ollama + Qdrant pour exécution locale des modèles. Téléchargement de documents, analyse de PDFs, recherche sémantique vectorielle. Vos données ne quittent jamais votre machine.

📚 Information Library (Kiwix)

Wikipédia hors ligne, références médicales, guides de survie, e-books. Indépendance complète d'Internet pour la connaissance.

🎓 Plateforme Éducative (Kolibri)

Cours de la Khan Academy, suivi des progrès, support multi-utilisateurs. Éducation décentralisée pour zones isolées.

🗺️ Cartes Hors Ligne (ProtoMaps)

Cartes régionales téléchargeables pour navigation sans Internet.

🔧 Outils de Données (CyberChef)

Chiffrement, encodage, hachage, analyse. Tout en local, sans exposer vos données.

📝 Prise de Notes Sécurisée (FlatNotes)

Notes avec support Markdown, entièrement en local. Vos pensées restent vôtres.

📦 Supply Depot

Catalogue d'applications en un clic. Apportez vos propres conteneurs Docker personnalisés.

Partie 3 : Déploiement et Usages Réels

Installation Simple, Puissance Réelle

NOMAD s'installe en quelques minutes sur n'importe quel serveur Debian (Ubuntu 26.04 LTS recommandé) :

sudo apt-get update && \
sudo apt-get install -y curl && \
curl -fsSL https://raw.githubusercontent.com/Crosstalk-Solutions/project-nomad/refs/heads/main/install/install_nomad.sh \
  -o install_nomad.sh && \
sudo bash install_nomad.sh
      

Puis ouvrez un navigateur sur http://localhost:8080 et commencez à explorer.

Cas d'Usage 1 : Nomadisme Numérique Total

Cabine isolée, camping-car, voilier : Emportez une bibliothèque complète, un assistant IA et des cartes hors ligne. Véritable indépendance numérique — plus besoin d'infrastructure réseau externe. Idéal pour aventuriers, nomades, voyageurs.

Cas d'Usage 2 : Déploiements d'Urgence

Séisme, inondation, attaque informatique : NOMAD continue. Références médicales, guides de survie, connaissances encyclopédiques — tout sans dépendre d'aucun signal Internet.

Cas d'Usage 3 : Organisations Distribuées et Souveraines

PME européenne passant à l'IA : Vous déployez NOMAD sur un serveur interne. Chaque utilisateur peut accéder via WiFi local ou VPN. Zéro données chez les GAFAM. Audit complet. Conformité certifiée.

Partie 4 : Modèles d'IA — Au-Delà de ChatGPT nous disposons de MISTRAL

Les Petits Modèles Spécialisés (SLM)

NOMAD utilise par défaut Ollama pour exécuter des modèles LLM open-source. Les SLM (Small Language Models) offrent une performance remarquable pour un coût énergétique et computationnel bien inférieur :

Llama 2/3.1 Mistral 7B/8x7B Phi-4 DeepSeek-V2 Qwen Gemma

Économies Chiffrées

Un appel API à OpenAI GPT-4 coûte environ $0.03-$0.06 par 1K tokens. Pour une organisation utilisant l'IA 200 fois par jour × 250 jours/an, cela représente €27,000/an.

NOMAD : investissement unique en matériel + maintenance minimale. Break-even en 6 mois.

Résilience du Modèle

Si vous utilisez ChatGPT et qu'OpenAI connaît une panne, votre IA s'arrête. Avec NOMAD + Ollama, votre IA tourne sur votre infrastructure. Indépendance opérationnelle garantie.

MISTRAL sur NOMAD

Partie 5 : Gouvernance, Conformité et Standards Européens

AI Act et Classification des Risques

L'AI Act classe les systèmes IA selon leur risque. NOMAD, en restant local, transparent et auditabile, minimise le risque réglementaire :

Risque prohibé (⚫) : Surveillance de masse, manipulation. NOMAD ne peut pas l'atteindre.
Risque élevé (🟠) : Décisions affectant droits fondamentaux. Documentation traçable → conformité possible.
Risque limité/minimal (🟢) : La plupart des cas d'usage NOMAD. Transparence locale = simple conformité.

RGPD : Maître de vos données

Avec NOMAD, vous maîtrisez :

Où vos données sont stockées (serveur physique identifié)
Qui y accède (réseau local, authentification locale)
Combien de temps elles sont conservées (politique locale)
Comment elles sont traitées (code open-source auditable)

DORA & NIS2 : Résilience Opérationnelle

NOMAD démontre la résilience : fonction 100% sans Internet, logs persistants, failover local possible, reconstruction rapide d'une instance neuve.

Les Défis Honnêtes

Maintenance et expertise requise

Oui, initialement. Mais moins que de naviguer les factures Azure et les migrations cloud d'urgence. NOMAD fournit des scripts helpers et une documentation complète.

Capacité GPU/CPU

Pour exécuter Llama 3.1 8B fluide, vous avez besoin d'une GPU ou d'une CPU moderne (16-32GB RAM). Pour une config minimale (Phi-4 quantisé), 8GB suffisent.

Mon environnement NOMAD tourne dans WSL2, sur un Ubuntu 26.04 LTS, avec un Intel Core Ultra 7 155H (22 cœurs / 11 physiques), 7.5 GB de RAM alloués, dont ~5.4 GB utilisés.

Le système est stable, charge CPU modérée (~51 %), mémoire bien gérée (~72 % utilisée), stockage quasi vide (4 %).

Pas de magique, mais des choix

NOMAD ne vous rend pas invisible. C'est un serveur local, auditable, auquel vous maîtrisez l'accès. Pas plus.

Prêt pour l'autonomie ?

Installation en 30 minutes. Zéro configuration complexe. Votre infrastructure, vos règles.

Lire l'article complet avec tous les détails techniques et les ressources :

Lire sur le Blog →

Ressources Techniques

📖 Documentation Officielle

https://www.projectnomad.us/ — Guides d'installation, FAQs, architecture technique, vidéos

💻 Dépôt GitHub

https://github.com/Crosstalk-Solutions/project-nomad — Code complet, open-source (Apache 2.0), issues et discussions

👥 Communauté Discord

Connectez-vous avec d'autres utilisateurs, partagez vos builds, obtenez de l'aide

📊 Benchmark Leaderboard

https://benchmark.projectnomad.us/ — Comparez votre matériel avec la communauté

📝 Article Complet par Erol Giraudy

https://cluboffice2010.blogspot.com/2026/08/nomad-slm-et-souverainete.html — Analyse stratégique complète, conformité, use-cases, chiffres

Mon BLOG SLM-OLLAMA

À Propos

Cet article intègre la documentation officielle de Project NOMAD et l'analyse stratégique d'Erol Giraudy sur la souveraineté numérique et la gouvernance de l'IA.

Ressources d'Erol :

Site : https://www.afees.org
Blog UGAIA : https://www.ugaia.eu/
GitHub : https://github.com/peg500and
YouTube : https://www.youtube.com/@EROLGIRAUDY

9/05/2025

Déploiement Apertus-8B sur Ollama

🤖 Déploiement Apertus-8B sur Ollama - non testé.

Guide POC : Déployer Apertus-8B sur Ollama

📋 Analyse du document original

Corrections importantes identifiées :

✅ Le modèle Apertus-8B existe bien sur HuggingFace
❌ Le contexte n'est pas 65k tokens mais 65,536 tokens (valeur correcte)
❌ Le Modelfile proposé contient des erreurs de syntaxe
⚠️ Architecture xIELU + AdEMAMix : nécessite vérification de compatibilité avec llama.cpp

🎯 Approche POC Simplifiée

Option 1 : Import direct Safetensors (Recommandé pour POC)

# 1. Télécharger le modèle
huggingface-cli download swiss-ai/Apertus-8B-2509 --local-dir ./apertus-8b

# 2. Créer le Modelfile
echo "FROM ./apertus-8b" > Modelfile

# 3. Importer dans Ollama
ollama create apertus-8b -f Modelfile

# 4. Tester
ollama run apertus-8b

Option 2 : Via Hugging Face Hub (Plus simple)

# Import direct depuis HF (si disponible en GGUF)
ollama run hf.co/swiss-ai/Apertus-8B-2509

Option 3 : Conversion manuelle vers GGUF

# Installation des dépendances
pip install transformers torch sentencepiece

# Clone du repo llama.cpp
git clone https://github.com/ggerganov/llama.cpp.git
cd llama.cpp
make

# Téléchargement du modèle
huggingface-cli download swiss-ai/Apertus-8B-2509 --local-dir ../apertus-8b

# Conversion vers GGUF
python convert_hf_to_gguf.py ../apertus-8b --outdir ../apertus-8b-gguf --outtype f16

# Création du Modelfile
echo "FROM ../apertus-8b-gguf/ggml-model-f16.gguf" > ../Modelfile

# Import dans Ollama
cd ..
ollama create apertus-8b -f Modelfile

🔧 Modelfile correct pour Ollama

# Modelfile corrigé
FROM /path/to/apertus-8b

# Paramètres recommandés pour Apertus
PARAMETER temperature 0.7
PARAMETER top_p 0.9
PARAMETER top_k 40
PARAMETER num_ctx 65536

# Template de chat (à adapter selon les besoins)
TEMPLATE """<|system|>
{{ .System }}</s>
<|user|>
{{ .Prompt }}</s>
<|assistant|>
"""

# Message système par défaut
SYSTEM """Vous êtes Apertus, un assistant IA multilingue développé par les institutions suisses EPFL, ETH Zurich et CSCS. Vous supportez plus de 1000 langues et êtes conçu pour être transparent, conforme et utile."""

⚠️ Points d'attention techniques

Architecture spécifique

xIELU activation : fonction d'activation custom
AdEMAMix optimizer : optimiseur spécialisé
Ces éléments pourraient nécessiter des adaptations dans llama.cpp

Vérifications de compatibilité

# Test de base après import
ollama run apertus-8b "Bonjour, peux-tu me parler en français ?"

# Test multilingue
ollama run apertus-8b "Can you respond in Swiss German?"

# Test de contexte long
ollama run apertus-8b "Résume ce long texte..." # (avec un texte de plusieurs milliers de tokens)

🚀 Script automatisé POC

#!/bin/bash
# poc_apertus_ollama.sh

set -e

echo "🚀 Déploiement POC Apertus-8B sur Ollama"

# Variables
MODEL_NAME="apertus-8b-poc"
HF_REPO="swiss-ai/Apertus-8B-2509"
WORK_DIR="./apertus_poc"

# Création du répertoire de travail
mkdir -p $WORK_DIR
cd $WORK_DIR

# Téléchargement du modèle
echo "📥 Téléchargement du modèle..."
huggingface-cli download $HF_REPO --local-dir ./model

# Création du Modelfile
echo "📝 Création du Modelfile..."
cat > Modelfile << EOF
FROM ./model

PARAMETER temperature 0.7
PARAMETER top_p 0.9
PARAMETER num_ctx 65536

SYSTEM """Vous êtes Apertus, un assistant IA multilingue développé par les institutions suisses. Vous supportez plus de 1000 langues."""
EOF

# Import dans Ollama
echo "🔧 Import dans Ollama..."
ollama create $MODEL_NAME -f Modelfile

# Tests basiques
echo "🧪 Tests de base..."
echo "Test français:"
ollama run $MODEL_NAME "Bonjour ! Peux-tu te présenter en français ?"

echo -e "\nTest multilingue:"
ollama run $MODEL_NAME "Please introduce yourself in English"

echo -e "\n✅ POC terminé ! Utilisez: ollama run $MODEL_NAME"

📊 Tests de validation

Tests fonctionnels

Réponse multilingue : vérifier le support des 1000+ langues
Contexte long : tester avec des prompts approchant 65k tokens
Performance : mesurer les temps de réponse
Cohérence : comparer avec le modèle original sur HF

Commandes de test

# Test de performance
time ollama run apertus-8b "Explain quantum computing"

# Test de mémoire
ollama run apertus-8b "Remember this: [long context]. Now answer: [question]"

# Test multilingue spécifique Suisse
ollama run apertus-8b "Chuchichäschtli" # Test en suisse-allemand

🎯 Résultats attendus

Si le POC fonctionne :

✅ Import réussi dans Ollama
✅ Réponses multilingues cohérentes
✅ Support du contexte long (65k tokens)
✅ Performance acceptable

Limitations potentielles :

⚠️ Architecture xIELU pourrait ne pas être totalement compatible
⚠️ Certaines optimisations AdEMAMix pourraient être perdues
⚠️ Performance variable selon le hardware

Note importante : Ce guide est optimisé pour un POC rapide. Pour une utilisation en production, une conversion GGUF native et des optimisations supplémentaires seraient recommandées.

🛠️ Recommandations Techniques Spécifiques

Configuration Modelfile Optimisée :

modelfile

FROM apertus-8b-q4_K_M.gguf

TEMPLATE """<|begin_of_text|><|start_header_id|>system<|/start_header_id|>
{{ .System }}<|eot_id|><|start_header_id|>user<|/start_header_id|>
{{ .Prompt }}<|eot_id|><|start_header_id|>assistant<|/start_header_id|>
"""

PARAMETER temperature 0.7
PARAMETER top_k 40
PARAMETER top_p 0.9
PARAMETER repeat_penalty 1.1
PARAMETER num_ctx 32768  # Exploiter contexte étendu
PARAMETER stop "<|eot_id|>"

Option A : Modèles Pré-Configurés

bash

# Modèles déjà optimisés pour contexte business
ollama pull codellama:13b-instruct  # Code + analyse
ollama pull vicuna:13b-v1.5          # Conversations longues
ollama pull nous-hermes2:34b         # Reasoning avancé