Şu soruyu soruyorum: bu karar yanlış olursa kim özür diliyor? Cevap bir insansa, o insan kararı görmeden sistem onu vermemeli. Cevap "kimse" ise o karar zaten otomatikleştirilebilir.
Bu ayrım, yapay zekâ bütçesinin nereye harcanacağını da belirliyor. Model kalitesine değil, öneriyi anlaşılır sunan arayüze yatırım yapmak çoğu zaman daha çok kazandırıyor.
Bir sigorta işinde bu soruyu sorduğumda cevap net çıktı: hasar red kararını kimse otomatikleştirmek istemiyordu, çünkü reddedilen müşteri arayıp "neden" diye soracaktı ve o soruyu yanıtlayacak bir insan gerekiyordu. Onay kararı ise farklıydı; kimse onaylanan bir talep için özür dilemeyi düşünmüyordu.
Bu ayrımı proje başında müşteriyle birlikte yapıyorum, tek başıma değil. Çünkü "kim özür diler" sorusunun cevabı şirketin kendi risk toleransına bağlı ve bunu dışarıdan biri olarak tahmin edemem.