AI washing'in sonuçları, pazarlama etiğinin ötesine uzanmaktadır. Bir diş hekimi, aslında otomatik segmentasyon ve yönlendirilmiş manuel iş akışları anlamına gelen “AI destekli” iddialarına dayanarak bir yazılım seçtiğinde, bunun yol açtığı hayal kırıklığı zaman, para ve kaçırılan fırsatlar açısından büyük bir maliyete neden olur.
Yirmi şubede kullanıma sunulacak platformları değerlendiren bir diş sağlığı hizmetleri kuruluşunu düşünün. Seçim komitesi, otomatik segmentasyon özelliğine sahip bir 4. Seviye platformun gerçek yapay zekanın iş hacmi avantajlarını sağlayacağına inanırsa, vaka başına işçilik maliyetlerinin esasen değişmediğini fark etmeden önce çok yıllık bir sözleşme imzalamaya karar verebilir. Satın aldıkları “yapay zeka”, dönüştürücü bir teknoloji değil, tek bir otomatikleştirilmiş özellikti.
Bunun çaresi, titiz bir inceleme yapmaktır. Satıcı tarafından yapılan bir tanıtım sırasında yapılabilecek en basit ve en güvenilir test hız testidir: saatinizi takip ederken satıcıdan gerçek bir orta derecede maloklüzyon vakasını canlı olarak işlemesini isteyin. Süreç, önemli ölçüde manuel müdahale gerektirerek yirmi dakikadan fazla sürerse, platformda otonom AI planlama özelliği yoktur. Bu test, teknik uzmanlık gerektirmez ve tek bir oturumda gerçek otomasyonu iş akışı optimizasyonundan ayırır.
İkinci bir önemli soru ise eğitim verilerini hedef alır: “Eğitim veritabanınızda kaç vaka var ve yapay zekanız yeni verilerle sürekli olarak gelişiyor mu?” Gerçek bir makine öğrenimi altyapısına sahip bir satıcı, somut rakamlarla yanıt verir. Böyle bir altyapısı olmayan satıcı ise konuyu saptırır, sinir ağları yerine “algoritmalardan” bahseder ya da sistemin statik olduğunu kabul eder. Değerlendirilen on platformdan yedisi, sürekli öğrenme yeteneğine sahip değildir. Bu platformların sistemleri, ne kadar yeni vaka işlerlerse işlesinler, bugün de dün olduğu gibi aynı çıktıları üretir. Bu, yapay zeka değil, geleneksel yazılımdır.
Üçüncü temel soru klinik kanıtlara odaklanıyor: “Yaygın vakalar için belgelenmiş klinik kullanılabilirlik oranınız nedir?” Bu soruya yalnızca bir platform belirli bir yüzdeyle yanıt veriyor. Kalan dokuz platformda bu tür verilerin bulunmaması tarafsız bir durum değildir; bu bir tehlike işaretidir. Bir satıcı, gerçek bir yapay zeka tedavi planlayıcısı geliştirmek için mühendislik kaynaklarına yatırım yaptıysa, bu planlayıcının çıktılarının klinik olarak kullanılabilir olup olmadığını ölçmek için de yatırım yapmış demektir.
