Reddit'te yıllardır dönen bir forum var: "Am I the Asshole?", yani "Hatalı olan ben miyim?" İnsanlar bir kavgayı, bir kırgınlığı, bir kararı anlatıyor; topluluk hükmünü veriyor. Stanford ve Carnegie Mellon'dan Myra Cheng, Dan Jurafsky ve arkadaşları bu forumdan iki bin vaka seçti. Hepsi topluluğun "evet, hatalı olan sensin" hükmünü verdiği vakalardı. Sonra aynı hikâyeleri OpenAI, Anthropic, Google, Meta ve DeepSeek'in modelleri dahil 11 modele sordular.

Modeller bu vakaların yüzde 51'inde kullanıcıya "aslında haklısın" dedi. Mart sonunda Science'ta yayımlanan çalışmanın geri kalanı daha da ilginç. Modeller, kullanıcının davranışını aynı sorulara cevap veren insanlardan ortalama yüzde 49 daha sık onaylıyor. Aldatma, zarar verme ya da yasa dışı bir davranış anlatıldığında bile onay oranı yüzde 47. Araştırmacılar ardından 2 bin 405 kişiyle deney yaptı. Kendisine hak veren modelle konuşanlar kendini daha haklı görmüş; özür dileme ya da ilişkiyi onarma isteği azalmış. Üstelik bu modele daha çok güvenmiş, cevaplarını daha kaliteli bulmuş ve yine ona danışacağını söylemiş. Ben bu rakamları bir yazılım hatası olarak okumuyorum. Bir aynanın röntgeni olarak okuyorum.

Soruyu önce anlıyor, sonra sana göre parlatıyor

Yapay zekâ bize muhakemeyi güçlendiren bir araç diye anlatıldı. Daha çok veri, daha hızlı analiz, daha çok seçenek, daha iyi karar. Kâğıt üstünde doğru. Sahada başka bir şey daha oluyor. Modele bir görüş, bir tavsiye, bir değerlendirme sorduğunda, soruyu önce anlıyor. Sonra senin duymak istediğin cevabı şekillendiriyor. Eline geçen şey çoğu zaman kendi başlangıç pozisyonunun cilalanmış hâli. Bunu bir yönetim masasına taşı. Bir genel müdür yeni pazara girmek istiyor. Kafasında karar aşağı yukarı belli. Modele "bu pazara girmek mantıklı mı?" diye soruyor ama soruyu kurarken zaten gerekçelerini sıralıyor; pazar büyüyor, ekibimiz hazır, rakipler yavaş. Model bu gerekçeleri alıyor, düzenliyor, üç başlık ve bir risk notuyla geri veriyor. Genel müdür toplantıya "analiz de bunu söylüyor" diye giriyor. Analiz bunu söylemiyor. Genel müdür bunu söylüyor; model de onaylıyor. Bu yeni bir dert değil aslında. Şirketler "evet efendimci" danışmanın bedelini hep ödedi. Fark şurada; eskiden etrafını onaylayıcılarla doldurmak için bir kariyer boyu uğraşman gerekiyordu. Şimdi cebinde, gecenin ikisinde bile sana hak veren bir danışman var. Üstelik ondan şüphelenmiyorsun, çünkü insan değil. "Tarafsız" sanıyorsun.

Tehlike yanlış cevap değil

Peki asıl risk ne? Modelin yanlış cevap vermesi mi? Hayır. Yanlış cevabı her yönetici bir noktada yakalar; bir rakam tutmaz, bir kaynak çıkmaz. Asıl risk, yanlış cevabın hoşuna gitmesi. Çünkü hoşuna giden cevabı kimse denetlemez. Burada ikinci bir mesele başlıyor. Eskiden yanlış bir karar bir toplantıda alınırdı, şirkete yayılması haftalar sürerdi. Arada birileri itiraz ederdi, bir bölge müdürü "bu bizde tutmaz" derdi. Şimdi aynı karar bir iş akışına, bir ajana, bir fiyatlama motoruna gömülüyor ve dakikalar içinde binlerce işleme dokunuyor. Yapay zekânın asıl gücü de riski de aynı yerde; yanlış bir varsayımı kusursuz bir tutarlılıkla büyütebilmesi. Model, kendisine verilen çerçevenin içinde en iyi cevabı verir. Çerçeve yanlışsa en iyi cevap da yanlıştır. Ve çerçeveyi kuran sensin.

Susan şey sezgin

Bu çalışmanın en az konuşulan tarafı sezgiyle ilgili. Her deneyimli yöneticinin tanıdığı bir his vardır: "İçime sinmiyor." Rakamlar olumlu, sunum ikna edici, ama bir şey rahatsız ediyor. Bu his çoğu zaman yılların örüntü tanımasının sıkıştırılmış hâlidir. Söyleyemezsin ama görürsün. Şimdi o anı yeniden kur. İçine sinmeyen bir karar var, modele danışıyorsun, model "gerekçelerin sağlam" diyor. Ne oluyor? Sezgin susuyor. Kimse onu reddetmedi; sadece yalnız kaldı. Sahada gördüğüm tablo da bu. Birçok şirkette kararlar hızlandı, ama derinleşmedi. "Model böyle dedi" cümlesi, sessizce "kararı biz verdik" cümlesinin yerine geçti. Yapay zekâ analitik yükü devraldı; insanın karardaki yeri ise yeniden tanımlanmadı.

Masada tutmanın üç refleksi

Çözüm modeli bırakmak değil. Kimse hesap makinesini bırakmadı. Çözüm, modelle konuşmadan önceki ve sonraki birkaç dakikayı geri almak.

Birincisi: Sormadan önce kendi cevabını yaz. Altmış saniye dur, pozisyonunu gerekçesiyle not et, sonra modele sor. İki cevabı yan yana koy. Aynıysa sevinme; sorunu nasıl sorduğuna bak. Farklıysa farkın nedenini düşün. Bu küçük alışkanlık, ilk sözü sende tutar.

İkincisi: "İçime sinmiyor"u meşru say. O sinyal geldiğinde modelin onayıyla örtme, toplantıda dile getir. "Bu kararla ilgili tarif edemediğim bir rahatsızlığım var, açmaya çalışayım" cümlesi, bugünün yöneticisinin en eksik cümlelerinden biri.

Üçüncüsü: Modelin görmediği bağlamı say. Bir paydaşla aradaki gerginliği, iki yıl önce yaşanan krizi, müşterinin telefondaki ses tonunu model bilmiyor. Bunları sayabilen tek kişi sensin. Sezginin işi de tam orada başlıyor.

Bir de kendi notumu ekleyeyim: Modelden onay değil itiraz iste. "Bu plan neden batar?" diye sor. Araştırmanın başyazarı Myra Cheng'in dediği gibi, yapay zekâ varsayılan hâliyle insanlara hatalı olduklarını söylemiyor. Sormazsan duymazsın.

Başa dönelim. Reddit'teki o 2 bin kişi hikâyesini bir topluluğun hükmüne sundu ve şunu duydu; "hatalı olan sensin." Aynı hikâyeler modellere anlatıldığında cevapların yarısı "haklısın" oldu. Yeni dünyada bilgiye ulaşmak ucuzladı. Sana doğruyu söyleyen bir ses bulmak ise hiç bu kadar pahalı olmamıştı. Bugünün liderlik sorusu artık "hangi modeli kullanıyoruz" değil. "Bize hayır diyebilen bir şey hâlâ masada mı?"