Infrastructure IA souveraine — Démonstration open source

Plateforme IA On-Premise
haute performance

Conception, déploiement et exploitation d'une infrastructure IA locale et souveraine — du matériel bas niveau jusqu'aux LLM et pipelines RAG. Une réalisation open source, documentée et reproductible : ce qui est montré ici fonctionne, et démontre qu'une organisation peut héberger sa propre IA en gardant la maîtrise de ses données, sans dépendance au cloud.

Proxmox VE 9.2 RTX 5090 VFIO Passthrough Ollama + LLM RAG Vectoriel Docker ZFS 192 Go DDR5

Approche & philosophie

📖
Aide-mémoire partagé
Ce portfolio est mon carnet de bord technique. Chaque page documente ce que j'ai appris, comment j'ai résolu un problème, et les ressources qui m'ont aidé. Librement accessible.
🌿
Open Source first
Chaque outil choisi dans ce portfolio a une alternative libre et ouverte. Git, Proxmox, Ollama, Python, nginx — la transparence et la communauté sont au cœur de chaque décision technique.
🔧
Du terrain à la prod
26 ans d'expérience — 7 ans en sécurité système, 19 ans chef de projet en laboratoire d'analyse. Ce qui est présenté ici a été conçu, déployé et maintenu en conditions réelles.

Domaines de compétence

Architecture — Vue d'ensemble
Synthèse
La plateforme en couches · du matériel à l'IA de consommation
Vue d'ensemble→
Infrastructure Matérielle
Infrastructure
AMD Ryzen 9 9950X3D · RTX 5090 · 192 Go DDR5
Avancé→
OSS
Hyperviseur Proxmox VE
Virtualisation
Proxmox 9.2.2 · KVM · QEMU · Templates
Avancé→
OSS
Reverse Proxy
Infrastructure
VM200 · Nginx · TLS · Certbot · Fail2ban · publication HTTPS
Avancé→
GPU Passthrough VFIO
Virtualisation
VFIO · IOMMU · PCIe Passthrough RTX 5090
Avancé→
OSS
Stockage ZFS
Stockage
Datasets IA · Snapshots · Architecture stockage
Intermédiaire+→
OSS
Systèmes d'exploitation
OS
Debian · Ubuntu · Alpine · Windows 11
Intermédiaire+→
OSS
IA Locale & LLM
IA / ML
Ollama · Open WebUI · Llama · Mistral · Gemma
Intermédiaire+→
OSS
RAG & Bases Vectorielles
IA / ML
PostgreSQL · pgvector · bge-m3 · HNSW
Base+→
OSS
IA Générative Image
IA / ML
ComfyUI · Flux · GPU Computing
Base+→
OSS
Speech AI — Whisper
IA / ML
Speech-to-Text · IA multimodale · Traitement audio
Base+→
OSS
Agents IA — Hermes & OpenCode
IA / Agents
VM301 · station agentique Linux · OpenCode · Hermes · inférence GPU distante
Avancé→
Station Dev IA — DeepSeek Harness
Dev / IA
VM302 · Windows 11 · VSCodium · Python · Node.js · DeepSeek Harness (préliminaire)
Avancé→
MIT
Second Cerveau OpenCode
IA / Agents
Kit Markdown · mémoire durable · OpenCode · validation humaine · licence MIT (prototype)
Intermédiaire→
OSS
Docker & Conteneurisation
DevOps
Docker Compose · Isolation · Services IA
Intermédiaire→
OSS
Nextcloud
Services
Fichiers auto-hébergés · Docker · MariaDB
Intermédiaire→
FAIR-CODE
n8n — Automatisation
Services
Workflows · Docker · PostgreSQL externe · API Ollama
Intermédiaire→
Réseau
Réseau
Bridge Proxmox · SSH · Firewall · NAT
Intermédiaire→
OSS
Python
Dev
venv · pip · requirements.txt · Scripts IA
Base+→
OSS
Git
DevOps
GitHub vs GitLab · GitLab auto-hébergé · hygiène de dépôts
Intermédiaire→

Niveaux de maîtrise

Virtualisation / ProxmoxAvancé
GPU Passthrough VFIOAvancé
Infrastructure IAAvancé
Sécurité système (Antivirus, Firewall)Avancé
Gestion de projet informatiqueExpert
Linux (Debian/Ubuntu)Intermédiaire+
Windows Server/DesktopIntermédiaire+
IA Locale (LLM / Ollama)Intermédiaire+
Docker / ConteneurisationIntermédiaire
Nextcloud / Auto-hébergementIntermédiaire
DevOps (IaC, templates)Intermédiaire
ZFS / StockageIntermédiaire
CUDA / NVIDIAIntermédiaire
Git / GitLab / GitHubIntermédiaire
RAG / pgvector / EmbeddingsBase+
Python / venv / pipBase+

Présentation du projet

Contexte : Conception d'une plateforme d'IA locale haute performance basée sur Proxmox VE, GPU NVIDIA RTX 5090 en passthrough VFIO, virtualisation Windows/Linux, stockage ZFS, infrastructure Docker, hébergement de LLM locaux (Ollama), RAG vectoriel (PostgreSQL/pgvector), automatisation n8n et outils multimodaux (Whisper, ComfyUI).

Vocation : démontrer qu'une organisation — collectivité (mairie) ou PME — peut héberger ses propres services d'IA et d'automatisation tout en restant souveraine sur son infrastructure et ses données. Certaines briques sont en production, d'autres validées sur la plateforme de conception ou en cours de déploiement.

infrastructure → virtualisation → déploiement → exploitation IA, construite intégralement sur des outils open source.