AI-washing: how to tell a real AI project from a marketing wrapper

Depuis deux ans, il est devenu difficile de trouver un logiciel de gestion, un tableau de bord ou une offre de conseil qui ne se présente pas comme « propulsé par l'IA ». Le problème, ce n'est pas que l'IA soit surreprésentée — c'est que le terme a été vidé d'une bonne partie de son sens, au point qu'un simple système de règles ou une moyenne pondérée se retrouve aujourd'hui vendu comme de l'intelligence artificielle.

Pour un acheteur — que ce soit une direction générale, un comité d'investissement ou une équipe achats — la vraie question n'est pas « est-ce que c'est de l'IA ? », mais « qu'est-ce que ce système décide réellement à ma place, et que se passe-t-il quand il se trompe ? »

Quatre questions qui font le tri

1. Quelle décision le système prend-il réellement ?

Un vrai système d'IA infère, prédit ou génère quelque chose à partir de données qu'il n'a jamais vues exactement de cette façon auparavant. Un système qui applique un barème fixe, calcule une moyenne ou déclenche une alerte sur un seuil préétabli n'est pas de l'IA — c'est un outil de scoring classique, parfaitement légitime, mais qui devrait être présenté comme tel.

2. Que se passe-t-il quand il se trompe ?

Un fournisseur qui ne peut pas expliquer comment son système gère une erreur, une donnée aberrante ou un cas limite n'a probablement pas un système d'IA mature — ou n'en maîtrise pas suffisamment le fonctionnement pour le déployer sérieusement dans un contexte à enjeu.

3. Peut-on expliquer pourquoi il a pris cette décision ?

Ce n'est pas qu'une question de conformité réglementaire. Une équipe qui ne peut pas expliquer le raisonnement d'un système qu'elle a elle-même construit signale généralement qu'elle ne le comprend pas complètement — ce qui pose un vrai problème de gouvernance, IA ou non.

4. Existe-t-il un contrôle humain, et à quel moment intervient-il ?

Les systèmes d'IA sérieux prévoient explicitement où et comment un humain reste dans la boucle — surtout sur des décisions à fort enjeu (crédit, santé, sécurité, investissement). L'absence totale de ce point dans la présentation d'un outil est un signal à ne pas ignorer.

Un bon outil de scoring n'a pas besoin de se déguiser en IA pour avoir de la valeur. Le déguisement est souvent le signal que la valeur réelle est ailleurs que dans la technologie elle-même.

Pourquoi Diamnova insiste là-dessus

Nos propres outils — Compass, Clarity, Tempo, Signal, Impact Nova — sont volontairement présentés pour ce qu'ils sont : des outils de diagnostic et de scoring à logique définie, pas des agents autonomes. Ce n'est pas une limitation qu'on cache — c'est un choix de transparence, dans un marché où beaucoup d'acteurs ont un intérêt commercial direct à brouiller cette distinction.

Une due diligence data & IA sérieuse — que ce soit avant un investissement, avant l'achat d'une solution, ou en interne avant de lancer un projet — commence précisément par poser ces quatre questions, avant même de regarder les performances annoncées.