L’éthique de l’IA dans les ESSMS : la méthode FORM

Les usages de l’IA dans le secteur social et médico-social avancent vite, parfois plus vite que les cadres institutionnels qui tentent de les réguler. C’est là que cela devient intéressant.

On ne peut pas se contenter de dire « attention aux données personnelles » ou « gardez l’humain au centre » et considérer le sujet réglé. Les professionnels se posent des questions concrètes tous les jours : puis-je utiliser l’IA pour mes rapports ? Pour structurer mes notes ? Pour repérer des signaux faibles dans le parcours d’une personne accompagnée ? Est-ce une bonne idée que l’IA formule des préconisations d’accompagnement ?

Ces questions ne se tranchent pas d’un coup de règlement, ni avec un vernis de bonnes pratiques. Elles demandent de la réflexion collective, du débat, des ajustements progressifs. Pas un débat réservé aux experts : un débat pour chacun, dans chaque organisation, et pour tous ceux qui, comme nous, proposent des solutions d’IA.

Quatre questions pour avancer

Pour définir nos propres axes de travail, nous utilisons la méthode FORM :

• Finalité louable : l’objectif est-il juste ? Il s’agit, par exemple, de gagner du temps au profit de l’accompagnement.
• Ouverture : est-ce que cela m’enferme dans une solution imposée ?
• Respect des personnes : leurs données et leurs attentes sont-elles respectées ? Et de quoi ce que nous faisons les prive-t-il ?
• Mesure et sobriété : est-ce proportionné au bénéfice attendu ? Quels sont les coûts cachés, en énergie comme en dépendance ?

Tous acteurs du cadre éthique

Les professionnels qui testent et partagent leurs doutes. Les organisations qui posent des balises en tenant compte de la réalité des usages. Les institutions qui établissent des normes sans étouffer les initiatives. Les comités d’éthique qui créent des espaces de réflexion collective.

Une IA utile répond à de vraies questions, pas à des effets de mode.