Les conséquences du « AI washing » vont au-delà de l'éthique marketing. Lorsqu'un dentiste choisit un logiciel en se basant sur des arguments de vente mettant en avant une « intelligence artificielle », qui se révèlent en réalité n'être qu'une segmentation automatique et des flux de travail manuels guidés, la déception se traduit par une perte de temps, d'argent et d'opportunités manquées.
Prenons l’exemple d’un groupe de services dentaires qui évalue différentes plateformes en vue d’un déploiement dans vingt établissements. Si le comité de sélection estime qu’une plateforme de niveau 4 dotée d’une segmentation automatique apportera les gains de productivité propres à une véritable IA, il pourrait s’engager dans un contrat pluriannuel avant de se rendre compte que les coûts de main-d’œuvre par cas restent pratiquement inchangés. L’« IA » qu’elle a acquise n’était qu’une simple fonctionnalité automatisée, et non une technologie transformatrice.
Le remède, c'est la diligence raisonnable. Le test le plus simple et le plus fiable lors d’une démonstration par un fournisseur est le test de rapidité : demandez au fournisseur de traiter en direct un cas réel de malocclusion modérée pendant que vous surveillez le temps. Si le processus prend plus de vingt minutes et nécessite une intervention manuelle significative, cela signifie que la plateforme ne dispose pas d’une planification autonome par IA. Ce test ne nécessite aucune expertise technique et permet de distinguer, en une seule séance, une véritable automatisation d’une simple optimisation du flux de travail.
Une deuxième question pertinente porte sur les données d’entraînement : « Combien de cas votre base de données d’entraînement contient-elle, et votre IA s’améliore-t-elle en continu grâce à de nouvelles données ? » Un fournisseur disposant d’une véritable infrastructure d’apprentissage automatique répondra par des chiffres précis. Celui qui n’en dispose pas éludera la question, parlera d’« algorithmes » plutôt que de réseaux neuronaux, ou admettra que le système est statique. Sept des dix plateformes évaluées ne disposent d’aucune capacité d’apprentissage continu. Leurs systèmes produisent aujourd’hui les mêmes résultats qu’hier, quel que soit le nombre de nouveaux cas traités. Il s’agit là de logiciels traditionnels, et non d’intelligence artificielle.
La troisième question essentielle porte sur les données cliniques : « Quel est votre taux d’utilisabilité clinique documenté pour les cas courants ? » Une seule plateforme répond à cette question en indiquant un pourcentage précis. L’absence de telles données chez les neuf autres n’est pas anodine ; c’est un signal d’alerte. Si un fournisseur a investi des ressources techniques pour développer un véritable planificateur de traitement basé sur l’IA, il a également investi dans l’évaluation de la pertinence clinique de ses résultats.
