Bu yılın yapay zekâ haberlerinde beni en çok şaşırtan şey bir başarı değil, bir geri adım. Araştırmalar gösteriyor ki müşteriyle konuşan bir yapay zekâ ajanını sahaya çıkaran şirketlerin büyük kısmı — neredeyse onda yedisi — bir süre sonra o ajanı geri çekmek ya da tamamen kapatmak zorunda kalıyor. Üstelik sebep ajanın aptallığı değil. En sık neden, ajanın görmemesi gereken bir veriye uzanması ya da markayı zora sokan uydurma bir cevap vermesi.

Eğitimlerde bana en çok sorulan soru hep aynı: “Hangi model daha akıllı?” Oysa sorun akılda değil. Bir ajanın ne kadar akıllı olduğunu onu üreten şirket belirler; neye erişebileceğini ise siz belirlersiniz. Bunlar iki ayrı şeydir, ama çoğu şirket ikisini birbirine karıştırıyor. Mesele ajanın zekâsı değil, eline verdiğiniz anahtarlar.

Açtığınız her kapı bir risk

Şirketler ajanı alıyor, daha çok iş yapsın diye önüne çıkan her kapıyı açıyor, sonra ilk olayda neyin yanlış gittiğini bile anlayamıyor. Çünkü açtığınız her kapı aynı zamanda bir risk. Bir ajana hem ödeme sistemine hem müşteri bilgilerine hem e-postaya aynı anda erişim verirseniz, küçük bir hatası artık küçük kalmaz.

İşin tuhafı, bugün şirketler ajanın yeteneğine büyük paralar ayırıyor; ama o ajanın neye dokunabileceğini sınırlamaya neredeyse hiçbir şey ayırmıyor. Bir araştırmanın hesabına göre, yapay zekânın yeteneğine harcanan her 735 dolara karşılık güvenliğine yalnızca 1 dolar düşüyor. Denge bu kadar bozuk olunca, gücü her gün artan ama freni hiç güçlenmeyen bir araç ortaya çıkıyor.

Tek kural herkese olmuyor

Şirketlerin çoğu ajanı iki uçtan biriyle yönetiyor; ya her şeyi yasaklıyor ya da her şeye izin veriyor. İkisi de hatalı. Basit, zararsız bir ajanı fazla kısarsanız, ekip işini yavaşlatan o ajanı bırakıp denetimsiz, gizli yollara kayıyor. Gerçekten güçlü, kendi başına iş yapan bir ajanı yeterince sınırlamazsanız da, riski en yüksek olduğu yerde başıboş bırakmış oluyorsunuz. Oysa bir ajanın riski, ne yaptığından çok neye dokunabildiğiyle ölçülür. Veriyi okuyup özet çıkaran bir ajanla, müşteriyle canlı konuşup karar veren bir ajan aynı kefeye konamaz.

Burada Gartner’ın önerdiği basit bir ayrım işe yarıyor. Ajanları, ne kadar serbest olduklarına göre dörde ayırabilirsiniz. En zararsızı sadece bakar; okur, hiçbir şeye dokunmaz. İkincisi öneri verir, ama kararı insan uygular. Üçüncüsü ancak onay aldıktan sonra harekete geçer. En güçlüsü ise belirlenen sınırlar içinde kendi başına iş yapar. Her birinin denetimi farklı olmalı; hepsine aynı kuralı koymak, en zararsızı boğar, en güçlüyü başıboş bırakır. Hangi ajana hangi kapıyı ne kadar açacağınıza tek tek karar vermek zahmetli bir iş; ama atlandığında, sonu o geri çekilen ajanların arasına katılmak oluyor.

Güven ile görünürlük aynı şey değil

Son bir nokta, en çok yanıldığımız yer. Çoğu yönetici ajanına güveniyor; ama güvenenlerin önemli bir kısmı yine de bir gün o ajanı geri çekmek zorunda kalıyor. Hatta güvenlik sistemini en sağlam kurduğunu söyleyen şirketlerde geri çekme daha da sık. Kulağa çelişki gibi geliyor, ama açıklaması basit; iyi bir gözlem sistemi kuran şirket hataları daha çok görüyor. “Hiç sorun yaşamadık” diyen şirket daha temiz çalışmıyor olabilir; belki sadece neyin ters gittiğini fark etmiyor.

Bu yüzden doğru soru “ajanımıza güveniyor muyuz” değil. Doğru soru şu; ajan bir hata yaptığında, bunu müşteriden önce biz fark eder miyiz? Güven bir his; görünürlük ise bir altyapı.

Bir ajanın ne yapabileceğini onu üreten şirket belirliyor. Neye erişeceğini ise yalnızca siz. Akıllı bir ajan kurmak bugün hiç olmadığı kadar kolay. Zor olan, o ajanın eline hangi anahtarları verdiğinizi bilmek ve bunu kapı açıldıktan sonra değil, açmadan önce düşünmek.