As consequências do «AI washing» vão além da ética do marketing. Quando um dentista escolhe um software com base em alegações de que este é «alimentado por IA» — que, na realidade, se traduzem em segmentação automática e fluxos de trabalho manuais guiados —, a desilusão tem um custo elevado em termos de tempo, dinheiro e oportunidades perdidas.
Considere uma organização de serviços dentários que está a avaliar plataformas para uma implementação em vinte locais. Se a comissão de seleção acreditar que uma plataforma de Nível 4 com segmentação automática proporcionará os benefícios de rendimento próprios de uma IA genuína, poderá comprometer-se com um contrato plurianual antes de descobrir que os custos de mão-de-obra por caso permanecem essencialmente inalterados. A «IA» que adquiriram era apenas uma funcionalidade automatizada, e não uma tecnologia transformadora.
O antídoto é a devida diligência. O teste mais simples e fiável durante uma demonstração do fornecedor é o teste de velocidade: peça ao fornecedor para processar ao vivo um caso real de má oclusão moderada enquanto observa o relógio. Se o processo demorar mais de vinte minutos e exigir uma intervenção manual significativa, a plataforma não dispõe de planeamento autónomo por IA. Este teste não requer conhecimentos técnicos e permite distinguir a verdadeira automação da otimização do fluxo de trabalho numa única sessão.
Uma segunda pergunta importante incide sobre os dados de treino: «Quantos casos existem na vossa base de dados de treino e a vossa IA melhora continuamente com novos dados?» Um fornecedor com uma infraestrutura de ML genuína responde com números específicos. Quem não a possui desvia a atenção, fala de «algoritmos» em vez de redes neurais ou admite que o sistema é estático. Sete em cada dez plataformas avaliadas não têm capacidade de aprendizagem contínua. Os seus sistemas produzem hoje os mesmos resultados que ontem, independentemente do número de novos casos que processem. Trata-se de software tradicional, não de inteligência artificial.
A terceira questão essencial centra-se na evidência clínica: «Qual é a vossa taxa de usabilidade clínica documentada para casos comuns?» Apenas uma plataforma responde a esta pergunta com uma percentagem específica. A ausência desses dados nas restantes nove plataformas não é neutra; é um sinal de alerta. Se um fornecedor investiu em recursos de engenharia para desenvolver um verdadeiro planeador de tratamento baseado em IA, também investiu na avaliação da usabilidade clínica dos seus resultados.
