IA dans les ESSMS : nos 12 convictions

Après plusieurs années à expérimenter, former et déployer des usages de l’IA dans le champ social et médico-social, voici ce que nous en retenons.

Avant de commencer : trois précautions

Le bon canal pour évoquer les enjeux de l’IA dans les organisations sociales et médico-sociales n’a rien d’évident.

Premier problème : les possibilités offertes par la technique changent chaque semaine, et toute réflexion de fond court le risque d’être vite dépassée. Deuxième problème : les implications sont si larges et les débats non tranchés si nombreux que le sujet se prête peut-être davantage à une discussion animée qu’à un article. Troisième problème : le point de vue, celui du praticien, du développeur de solutions, du DPO, du DSI, du financeur, du cadre intermédiaire ou des personnes concernées, n’a rien de neutre.

Affirmons donc dès le départ que :

• la durée de vie de cet article au-delà du second semestre 2026 est douteuse ;
• les opinions divergentes sont bienvenues ;
• BMSE développe et utilise des outils mobilisant l’IA : notre regard est situé.

L’IA ne se gouverne pas comme un projet informatique

1. Le terrain et le métier sont premiers dans le développement de l’IA.

Comme pour beaucoup de technologies émergentes, la pratique et même la maîtrise des usages ne suivent pas les organigrammes. Un professionnel de terrain peut développer ses propres solutions et être plus pertinent sur le sujet que la DSI. Ceux qui sont légitimes pour poser le cadre peuvent être complètement dépassés. Cela redessine la gouvernance d’un projet IA, et peut-être au-delà.

Dans la plupart des abonnements personnels payants, il est désormais possible de créer ses propres outils sans être développeur. Les assistants de programmation actuels savent transformer un besoin métier clairement exprimé en un petit outil pas si éloigné de ce qu’une équipe de développeurs pouvait produire hier.

Cela ne veut pas dire que la DSI ou la direction générale sont disqualifiées. Cela veut dire que chacun doit, encore plus qu’avant, s’ouvrir et accepter de sortir de son couloir : d’abord pour tester et apprendre soi-même, ensuite pour partager la réalité du travail avec l’IA aujourd’hui, enfin pour assumer ses responsabilités de cadre et d’employeur, tout autant qu’avant, mais avec ce préalable d’ouverture.

2. Les usages devanceront toujours le cadre.

Dans le secteur social, on se fait souvent du mal à refuser le réel. Or la réalité, c’est que la planification telle que nous la connaissons a du plomb dans l’aile : diagnostic, puis charte, puis cahier des charges, puis déploiement, puis évaluation.

On pourrait dire, par provocation, que plus on cadre, plus on développe des usages hors cadre. Ce serait inexact : la responsabilité de l’écrit, les données personnelles et les principes du travail social ne peuvent se passer de cadre.

Mais dans une technologie qui évolue sans cesse, le cadre qui fonctionne est celui qui pose d’abord les fondamentaux métier et se concentre presque exclusivement sur eux. Autrement dit, une gouvernance des finalités (le quoi) plutôt qu’une gouvernance des procédures (le comment).

3. Les risques de l’IA pour le secteur sont réels, massifs, et celui qui nous inquiète le plus est l’atrophie professionnelle.

Avec l’IA, la forme n’est plus un critère distinctif. Nous avons été formés à considérer qu’un écrit structuré et bien formalisé était un indice de qualité du raisonnement. Désormais, la forme peut être entièrement externalisée à une IA et ne distingue plus un travail sérieux. Pire, un écrit d’apparence sérieuse peut n’être que du vent.

Le glissement s’opère ainsi :

• je mets mes notes en forme avec une IA, parce que je préfère consacrer du temps à l’accompagnement : légitime ;
• je demande à l’IA ce qu’elle ferait dans cette situation : pourquoi pas, si cela élargit mon regard ;
• je fournis de moins en moins de contexte, parce que mon assistant commence à bien me connaître : risqué ;
• je lui demande d’écrire le rapport à partir de ce qui a déjà été fait et de quelques vagues indications : décrochage.

4. Il faut assumer que certains usages soient interdits.

Ce n’est pas qu’une question de conformité au droit : tout ce qui est techniquement ou juridiquement possible n’est pas souhaitable. Une organisation est légitime à affirmer ce qu’elle ne souhaite pas, et à le sanctionner. Sa légitimité sera d’autant plus forte qu’elle aura fait l’effort d’ouverture décrit plus haut.

Pour savoir si un usage doit être interdit, le risque juridique compte. Mais la question la plus puissante est de savoir si cet usage nous ressemble. Ai-je envie qu’une IA oriente les personnes accompagnées, même en les informant, même avec une validation humaine ? Peut-être pas. Ai-je envie que le rapport de suivi d’un dispositif soit rédigé par une IA pour gagner deux jours de travail sur un document que personne ne lira ? Peut-être.

Un mot sur la conformité : si certains usages de l’IA posent des questions juridiques, les usages anciens aussi (ce qu’on laisse dans des tableurs sur le réseau, ce qu’on oublie sur la photocopieuse). Ne demandons pas plus à l’IA que ce que nous demandions à la gestion de nos réseaux partagés.

5. Ne pas engager de chantier IA comporte aussi un risque.

Les usages se développent quoi qu’il arrive. Faut-il en conclure que toute démarche d’organisation est vaine ? Non, pour plusieurs raisons. La première est l’atomisation des collectifs de travail : entre ceux qui ont ou non un abonnement payant, entre ceux qui ont ou non tel outil. La deuxième est qu’on ne maîtrise rien des solutions mobilisées par les professionnels à titre personnel : les biais des modèles, les sources mobilisées, l’angle intellectuel sous-jacent.

Or la plupart des organisations disposent d’une matière formidable : retours d’expérience, supports de formation, données, ressources du territoire. Ne pas engager de projet IA structuré autour de cette matière, et déléguer le savoir de son organisation aux grands assistants généralistes, serait une erreur stratégique.

Une démarche IA n’est pas la quête de la solution technique parfaite

6. Les grands assistants généralistes sont meilleurs que presque toutes les IA spécialisées que vous construirez.

Une démarche IA d’organisation doit reposer sur un constat humble des forces en présence. La capacité de raisonnement, de collecte de sources et d’intégration d’outils des grands assistants du marché est quasiment imbattable. Et la pertinence technique de leurs réponses, même sur des sujets métier pointus, est d’un excellent niveau. Le risque de reproduire ces fonctionnalités en moins bien existe dans tous les projets, et peut devenir un frein majeur si la qualité n’est pas au rendez-vous.

Faut-il alors simplement les déployer ? Nous ne le recommandons pas. Et l’argument n’est même pas d’abord la conformité ou la souveraineté : c’est trop cher pour des organisations qui comptent de nombreux salariés (on voit mal une organisation acheter des licences pour les cadres et pas pour les autres), qui ont des contraintes financières réelles, et dont les usages n’ont pas toujours démontré leur retour sur investissement.

7. Deux choses apportent néanmoins un « plus » imbattable.

Ce que les grands assistants n’ont pas nativement tient en deux points essentiels :

• la connaissance de votre organisation : pas seulement la capacité de chercher des documents dans un espace partagé, mais une adaptation fine à votre histoire, votre fonctionnement, votre environnement territorial, vos retours d’expérience, vos orientations cliniques ;
• la connaissance de vos verrous métier : les tâches sur lesquelles vous voulez gagner du temps, les points identifiés comme des verrous pour la qualité de vos accompagnements. C’est pourquoi la phase de préparation est essentielle.

Ce sont principalement, voire exclusivement, ces deux points qui feront la qualité d’une démarche IA. Pas tant le choix de l’outil, de la technologie, du fournisseur ou du mode d’hébergement. Une démarche IA doit donc s’atteler à structurer, relier et mobiliser ses données métier au sens large, et à identifier les tâches du quotidien qu’un agent IA pourra réaliser.

8. Local ou cloud : le débat n’est pas où on le croit.

À la question du mode d’hébergement, nous répondons souvent : « ça dépend pour quoi faire ». Le débat porte sur le lieu physique où sont réalisés les calculs qui produisent la réponse du modèle de langage.

Les solutions locales ont progressé spectaculairement : aucune donnée n’est envoyée en ligne, tout le traitement est réalisé sur une machine chez vous, et la qualité de certaines solutions approche celle des références du marché. Les solutions cloud, elles, font réaliser les traitements dans des centres de données, via une interface de programmation (API). Et il existe beaucoup de solutions intermédiaires, comme un espace privé dans un centre de données.

Plutôt qu’une réponse, une grille de lecture :

• le coût ne permet pas de trancher : le prix d’usage des modèles en cloud baisse, et l’IA locale a ses propres coûts (la machine coûte cher, et souffre avec des contextes longs ou de nombreuses requêtes simultanées, même si, bien pensée, elle fonctionne) ;
• pour la conformité, avantage au local : pas de sous-traitant, les données ne sortent pas. Mais certains acteurs du cloud offrent aussi des garanties d’isolement des données, et un traitement local reste soumis au RGPD ;
• pour la sécurité, ce n’est pas si clair : une machine locale mal administrée contenant des données très sensibles peut être bien moins rassurante qu’une infrastructure cloud correctement architecturée, et réciproquement ;
• pour la fluidité d’usage, avantage au cloud.

Le choix du local peut tout à fait se justifier. Mais plutôt que de se concentrer sur la seule solution technique, c’est l’ensemble de la chaîne de traitement et de responsabilités qu’il faut considérer.

9. L’intégration cohérente dans votre système d’information est un défi majeur.

Une fois le quoi défini et un excellent prototype construit, on n’a parcouru qu’une petite partie du chemin qui mène à l’appropriation et au retour sur investissement. L’IA permet un prototypage rapide d’outils souvent très utiles. Mais pour les partager plus largement, il faut gérer les authentifications, la maintenance, la documentation, la formation, les interfaces avec les systèmes existants.

Deux chemins s’offrent pour relever ce défi : une démarche professionnalisée, interne ou externe, pour intégrer de nouveaux outils à l’environnement existant ; ou l’appui sur un environnement intégré proposé par un grand éditeur pour construire et déployer ses agents. L’arbitrage dépend largement des ressources internes sur les sujets informatiques.

10. Les modèles de langage vont devenir des commodités.

Le point fait débat. D’un côté, les grands acteurs ont investi des centaines de milliards et chercheront à rentabiliser leurs investissements après une phase de sous-facturation ; il y a des indices en ce sens. De l’autre, la concurrence tire les prix vers le bas, et les modèles à poids ouverts, que l’on peut faire fonctionner sur l’infrastructure de son choix, sont devenus presque aussi performants que les meilleurs.

Nous sommes clairement dans le second camp. En adoptant des stratégies poussées d’optimisation (mise en cache du contexte, routage entre modèles), on peut aujourd’hui réduire très fortement ses coûts d’usage. Pour les outils utilisés au quotidien, ce n’est plus le sujet. La valeur réside principalement dans l’orchestration, les données, l’intégration et la capacité à résoudre un problème réel.

Ce qui restera quand les modèles auront changé

11. Faites vivre votre patrimoine de données et d’expérience.

Les organisations, y compris institutionnelles, confondent souvent les données et les nombres. C’est sans doute l’héritage d’un pilotage longtemps assuré par des tableurs et des systèmes d’information qui se résumaient à saisir des mesures, des dates et des montants. D’où, peut-être, une confusion entre transformation numérique et management par les chiffres.

Les modèles de langage reposent fondamentalement sur le langage. C’est une chance : ils permettent de mobiliser des données beaucoup plus subtiles et utiles au quotidien du secteur, les documents, les retours d’expérience, les supports de formation, les savoirs implicites accumulés.

Cette conviction s’est forgée dans nos travaux de tarification : on ne comprend pas un établissement financièrement si l’on n’est pas capable de relier les chiffres à un contexte. Et le plus souvent, la documentation existe : elle n’est simplement pas mobilisée. Le problème n’est alors pas documentaire, il est cognitif. L’IA peut contribuer à le résoudre.

Utiliser une IA, c’est d’abord construire un contexte qui lui permet de travailler. Lui donner un contexte fiable, sourcé, reposant sur votre patrimoine documentaire ouvre des possibilités considérables. C’est d’ailleurs notre principal sujet de recherche.

12. L’IA ne remplacera pas les logiciels métier.

Une petite musique, qui a quelques arguments pour elle, voudrait que les logiciels métier soient tués par l’IA. Nous n’y croyons pas. L’IA peut devenir le moyen d’interagir avec les logiciels métier et de raisonner à partir des données qu’ils contiennent, ce que l’on fait encore très peu, et c’est dommage après tous les efforts consacrés au dossier usager informatisé. Mais elle ne les remplacera pas.

L’IA n’est pas faite pour cela : c’est un outil probabiliste qui produit du langage, lequel peut lui-même déclencher des tâches. La maintenance d’une base de données, l’application rigoureuse de règles métier, les opérations financières ou le classement des documents reposent sur d’autres logiques informatiques.

Ne jetez donc pas trop vite vos logiciels métier. Soyez en revanche très exigeants sur l’ouverture de leurs données : une API bien documentée, c’est aujourd’hui la moindre des choses, et ce n’est pas courant.

Pour conclure

L’IA n’est pas le sujet numéro un des ESSMS, loin de là. Quelle offre pour demain ? Quel pilotage financier dans un contexte de contraintes sur les finances publiques ? Quel impact des transitions climatiques et démographiques ? Ces sujets réclament sans doute davantage l’attention des gouvernances. Mais si l’IA peut aider un peu sur ces enjeux, tant mieux.