Geçen yıl Kanada’da küçük bir dava görüldü. Bir yolcu, havayolunun sitesindeki destek botuna yakınını kaybedenlere yapılan indirimi sordu; bot da şirketin kendi kurallarına aykırı bir cevap verdi. Yolcu o indirimi istedi, şirket vermedi, iş mahkemeye gitti. Şirketin savunması şuydu: Bot ayrı bir tüzel kişilikti, söylediklerinden kendisi sorumluydu. Yani bir şirket, kendi sitesindeki bir cümlenin arkasında durmayı reddetti.

Mahkeme kabul etmedi. Tazminat 650 Kanada doları, yani hiç. Ama o savunma bugün pek çok şirketin kafasındaki karışıklığı özetliyor: Makinenin ürettiği çıktıyı şirketin kendi sözünden ayrı bir şey sanmak.

Ben bir süredir başarısız olmuş yapay zekâ projelerini tek tek okuyorum ve hep aynı yere çıkıyorum. Bu vakalarda asıl sebep olarak “model çalışmadı” yazmıyor. Çoğunda model tam da eğitildiği şeyi yaptı. Sorun modelin çevresinde çıktı: Onu hangi veriyle beslediler, çıktısını kim kontrol etti, yanlış çıktığında kim hesap verdi.

Model geçmişini öğreniyor

Amazon bir dönem özgeçmişleri yıldızlayan bir işe alım modeli kurdu. Eğitim verisi olarak şirketin kendi on yıllık işe alım kayıtlarını verdiler; yani “biz geçmişte kimi aldık” bilgisini. Sonra da modelden en iyi adayları seçmesini istediler.

Model kadın adayları sistematik olarak düşük puanladı. Özgeçmişte “women’s” geçen ifadeleri ve iki kadın kolejinin adını olumsuz işaret saydı. Proje kapatıldı.

Oysa model ayrımcılık öğrenmedi. Şirketin eski kararlarını öğrendi ve onları geleceğe kopyaladı.

Bunu eğitimlerde anlattığımda salonda hep aynı sessizlik oluyor, çünkü herkes aklından kendi verisini geçiriyor. Size de sorayım: Elinizdeki veri, olmasını istediğiniz kararların kaydı mı, yoksa geçmişte verdiğiniz kararların mı?

Satıcının rakamı senin ölçümün değil

Amerika’da yüzlerce hastane, sepsis riskini önceden haber veren bir modeli kullanıyordu. Sepsis, bir enfeksiyonun saatler içinde organları vurduğu tablo; erken fark edilirse hayat kurtarıyor. Model hasta kayıt sistemine gömülüydü ve satıcının ilan ettiği başarı oranı yüksekti.

2021’de bağımsız bir ekip modeli otuz sekiz binden fazla hasta yatışında test etti. Model, sepsis gelişen 2.552 hastanın 1.709’unu kaçırmıştı. Buna karşılık yatışların yüzde 18’inde alarm çalmıştı; yani her beş hastadan birinde boş yere.

Yüzlerce hastane bu modeli yıllarca kullandı ve içlerinden kendi hastalarında sınayan çıkmadı. Satıcının performans rakamı bir pazarlama iddiasıdır. Kendi verinizde doğrulamadıysanız, o modeli ölçmemişsiniz demektir.

Kazananlar “yapay zekâ projesi” demedi

Peki işi yürütenler ne yapıyor? İlk fark bir teknoloji tercihi değil, bir dil tercihi. John Deere “akıllı tarım” demedi. Şu soruyu sordu: Tarlaya kaç litre yabani ot ilacı döküyoruz? Klasik yöntemde bu ilaç tarlanın tamamına atılır, çünkü makine otun tam olarak nerede olduğunu bilmez. Traktöre kameralar takıldı; makine ilerlerken otu üründen ayırıyor ve ilacı yalnızca ota püskürtüyor. Bir sezonda ölçülen tasarruf yüzde 59. Çiftçi bunu tartışmıyor, çünkü sonuç faturasında duruyor.

Dikkat edilecek yer burası. Gösterge verimlilik dilinden değil, işin kendi dilinden seçilmiş. Kaç saat kazandık değil, kaç litre ilaç döktük. Kapsam daraldıkça sonuç tartışılmaz oluyor.

Kanıtlayamadığın proje kapanıyor

Şimdi asıl meseleye gelelim. Kurumların yüzde 60’ı yapay zekâ için finansal bir gösterge tanımlamıyor. Aynı dönemde, yapay zekâ girişimlerinin çoğunu terk eden kurumların oranı bir yılda yüzde 17’den yüzde 42’ye çıktı.

Bu iki rakamı yan yana koyunca ben şunu görüyorum: Terk edilen projelerin bir kısmı aslında başarısız olmadı, başarılı olduğunu kanıtlayamadı. Başlangıç ölçüsü alınmadan başlayan bir iş bittiğinde savunulamıyor; ilk bütçe kısıntısında kapanan da o oluyor.

Bu yazıdaki şirketler aracı almıştı. Eksik olan, o araca sahip çıkacak bir isim, bir ölçü ve bir imzaydı. Model çalıştı, kurum çalışmadı. İyi haber de burada: Eksik olan şey pahalı bir teknoloji değil, bir toplantıda verilecek birkaç karar.