Bir modele karar verdirdiğinizde iki şey oluyor. Model yanıldığında kimsenin sorumluluğu yok; ekip hatayı sistemin üzerine atıyor ve güven bitiyor. Model yanılmasa bile kullanıcı kararın gerekçesini anlamadığı için doğrulama ihtiyacı duyuyor, doğrulama da işin kendisi kadar sürüyor.
Saha servis projesinde ilk sürümde iş emirlerini model otomatik atıyordu. Doğruluk fena değildi ama planlamacılar her atamayı elle kontrol etmeye başladı. Kazanılan süre sıfırdı.
Bu deneyimden sonra bir kural koydum: bir modelin çıktısını kimse doğrulamadan sisteme yazmasına izin vermiyorum, doğruluk oranı ne olursa olsun. Yüzde doksan dokuz doğru bile olsa, kalan yüzde birin nerede olduğunu kimse bilmiyorsa güven o yüzde birde kırılıyor.
İlginç olan şu: planlamacılar modelin hatalarını değil, hatayı fark ettiklerinde yapacak bir şeylerinin olmamasını sorun ediyordu. Model karar veriyorsa itiraz mekanizması yok; öneriyorsa itiraz tek tıkla oluyor.