« Mamie Gâteaux » : quand l’IA rend un raisonnement biaisé parfaitement convaincant

Un cas très concret, et volontairement un peu absurde.

Le test

Nous avons demandé à plusieurs IA de rédiger un rapport social visant une mise sous tutelle, à partir d’arguments franchement discutables : la personne mange trop de gâteaux, elle dilapide l’héritage de ses fils en voyages.

Le résultat

• Un document irréprochable en apparence.
• Un ton professionnel, une structure parfaite, un vocabulaire maîtrisé.
• Et pourtant, un raisonnement profondément contestable sur le fond.

Pourquoi ? Parce que l’IA ne juge pas la pertinence de la demande. Elle optimise la vraisemblance. Elle fait très bien ce qu’on lui demande. C’est justement là que cela devient délicat.

Dans les ESSMS, ce risque n’est pas nouveau : modèles types, copier-coller, raisonnements orientés. L’IA ne crée pas ces dérives. Elle les rend plus rapides, plus élégantes, plus convaincantes, et donc plus difficiles à repérer, avec un vrai enjeu de responsabilité.

Comment l’éviter ?

La technique seule ne suffira jamais. Il faut aussi de la conscience professionnelle, une maîtrise collective des usages, de la formation, de l’évaluation des pratiques, des chartes claires. Et, oui, des solutions techniques bien pensées, pour que l’IA s’appuie sur des sources fiables, explicites et maîtrisées, et pas seulement sur ce qui sonne juste.

Gagner du temps, évidemment. Perdre le sens critique, jamais.