Le coût de l’IA, ou le chauffage avec les fenêtres ouvertes

Déployer l’IA dans votre ESSMS sans architecture, c’est comme allumer le chauffage avec les fenêtres ouvertes. Ça coûte, et ça ne sert pas à grand-chose.

Les vraies questions de coût sont souvent évitées, derrière les promesses d’économies miraculeuses ou les annonces de solutions clés en main. Pour chauffer sa maison, il faut de l’énergie, une bonne isolation et le bon contrat. Pour faire tourner son IA, c’est exactement pareil : le modèle, une architecture pensée, le bon modèle pour la bonne tâche, éventuellement de l’IA locale, et des financements dédiés.

Le problème n’est pas le coût de l’énergie

Beaucoup de structures déploient l’IA sans cadre : chacun son outil, chacun son usage, toujours le modèle le plus puissant parce que c’est le seul qu’on connaît. Le chauffage tourne, les fenêtres sont ouvertes.

Trois leviers qui font vraiment la différence

• Concevoir une architecture avant de changer de fournisseur. Définir les usages prioritaires, former les équipes, poser une gouvernance simple. Côté technique, le routage entre modèles et la mise en cache permettent de réduire les coûts d’inférence de 40 à 60 % sans changer de solution.
• Router les bons modèles sur les bonnes tâches. On n’utilise pas la même puissance pour faire chauffer de l’eau et pour alimenter une forge. Un modèle léger suffit pour résumer un compte rendu ; un modèle puissant se justifie pour analyser un CPOM ou croiser des données complexes. Le bon outil pour la bonne tâche est immédiatement rentable.
• Poser une gouvernance des usages.

Ce sont ces leviers qui nous ont permis de réduire de 60 % les coûts d’inférence de REPERES.

Et l’IA locale ?

Installer une éolienne dans son jardin est une option réelle, pas une solution universelle. L’IA locale suppose une infrastructure adaptée, des compétences maintenues dans le temps et des volumes qui justifient l’investissement. Pour une structure de taille moyenne avec trois cas d’usage définis, l’éolienne coûte souvent plus cher que ce qu’elle économise. Ce n’est pas une question d’idéologie, c’est une question de bon sens économique.

Et les financements ?

Les dispositifs dédiés restent rares : le volet innovation du FSE+ (en fin de programmation), la mobilisation des excédents pour les structures qui en disposent, le plan de formation, quelques appels à projets. Ce qui manque encore, c’est un soutien systémique. Nous plaidons pour que l’IA dans le secteur ne devienne pas un privilège de gestion.

Vos documents, rendus interrogeables

Pour des solutions aux coûts maîtrisés et sans dépendance à un « savoir » ou à des solutions externes, nous construisons REPERES, une architecture de RAG dans laquelle votre documentation devient votre actif : vos documents, vos procédures, votre plaidoyer, rendus interrogeables, traçables et cités à la source. Elle est déployée sur une infrastructure française.

Dans les ESSMS comme ailleurs, le coût de l’IA, c’est rarement le modèle. C’est l’absence d’architecture. Bien construite, elle se pilote.