Pek çok teknoloji yöneticisi gibi Mike Taylor da geçtiğimiz yılın sonlarında Claude Code karşısında hayranlığa kapılmıştı. Kısa süre içinde sabahlarının çoğuna Claude’un hazırladığı toplantı notlarıyla başlıyor, sıkıcı işleri dakikalara indiren ajanlar geliştiriyordu. Genellikle aynı anda birkaç Claude terminali çalıştırıyor ve bunlarda Anthropic’in o dönemdeki en gelişmiş modelini kullanıyordu. San Francisco merkezli, küçük işletmelere insan kaynakları araçları sunan girişim Gusto’daki ekibini de bu teknolojiyi denemeye teşvik ediyordu.

Ancak birkaç ay sonra Gusto çalışanların yapay zekâ kullanımını izleyen bir sıralama tablosu yayımladığında Taylor şaşkına döndü. Sadece yoğun bir kullanıcı değil, aynı zamanda aşırı harcama yapan bir kullanıcı olduğu ortaya çıkmıştı ve bu durum yaptığı işe kıyasla orantısız derecede yüksek maliyetler yaratıyordu. Daha da kötüsü, Taylor Gusto’nun finans direktörüydü. Doğal olarak, “Bu benim açımdan pek iyi görüntü değil” diyor.

Böylece Taylor’ın “tokenmaxxing” ile kısa süreli flörtü de yavaş yavaş sona ermeye başladı. Her sorunun çözümünün daha fazla yapay zekâ olduğu fikrine dayanan bu yanlış yönlendirilmiş ve nihayetinde kısa ömürlü akım gözden düşüyor. Bunun nedeni hem işverenlerin yapay zekânın kontrolden çıkan maliyetleriyle yüzleşmeye başlaması hem de çalışanların bunun her zaman işleri yapmanın en iyi yolu olmadığını fark etmesi.

Bu anın gelmesi kaçınılmazdı. Bu yıl, yapay zekâ kullanımında adeta çılgın bir serbest rekabet ortamıyla başlamıştı. Şirketler, çalışanlarını yapay zekâ sektörünün en gelişmiş araçlarını kullanmaya teşvik ediyor, maliyetleri ise ikinci plana atıyordu. En iyi senaryoda bu durum, Taylor gibi iyi niyetli kişilerin basit işler için gereğinden fazla yapay zekâ gücü kullanmasıyla sonuçlanan pahalı bir aşırılığa yol açıyordu. En kötü senaryoda ise tembel görünmekten korkan sıradan çalışanları, yalnızca görüntüyü kurtarmak adına büyük dil modellerinin işlediği ve ürettiği metin birimleri olan tokenları hoyratça tüketmeye teşvik ediyordu. Meta Platforms Inc.’in eski çalışanlarından biri, mayıs ayında San Francisco Standard’a verdiği demeçte, bazen yalnızca token kullanımını artırmak için şirketin sohbet botuna “saçma sapan sorular” sorduğunu anlatmıştı.

Yakın zamanda 300 şirket yöneticisiyle yapılan bir ankette katılımcıların yüzde 68’i, geçtiğimiz yıl yapay zekâ bütçelerini aştıklarını belirtti. Bu nedenle giderek daha fazla şirketin frene basması şaşırtıcı değil. Uber Technologies Inc. kısa süre önce çalışanlarının yapay zekâ harcamalarına aylık 1.500 dolar sınırı getirdi. Tesla Inc.’in ise haftalık 200 dolarlık bir limit belirlediği bildiriliyor. Bu hızlı geri dönüş bazı çalışanlarda adeta baş dönmesi etkisi yarattı. Reddit forumları, kullanım limitleri nedeniyle bir anda iş yapamaz hale gelen mühendislerin hikâyeleriyle dolup taşıyor.
Bazı durumlarda şirketlerin maliyet düşürme stratejileri, çalışanların günlük işlerinde bağımlı hale geldiği faydalı araçlara erişimi de kesiyor. Büyük bir film stüdyosunda çalışan bir kişi, Bloomberg Businessweek’e verdiği demeçte ekibinin yakın zamanda, binlerce filmin lisans sürelerini Excel üzerinde takip etme işini kolaylaştırmak için kullandıkları bir ChatGPT eklentisine erişimini kaybettiğini söyledi. Aynı çalışanın anlattığına göre, bir iş arkadaşının geliştirdiği özel GPT de ChatGPT’nin en gelişmiş düşünme modellerinden birine erişim kesilince tamamen çalışmaz hale geldi.
Adının açıklanmasını istemeyen bir çalışan, “İnsanlar OpenAI sayesinde kendileri için çok zor olan bir işi çok kolay bir şekilde yapmaya alışmıştı ama sonra bir anda her şey ellerinden alındı. Kimse geriye gitmek istemez” diyor. Ekibin kullanabileceği başka yapay zekâ araçları hâlâ mevcut, ancak çalışan, bazı meslektaşlarının “ortalık durulana kadar” yeniden bir şeyler inşa etmeye isteksiz olduğunu söylüyor.

Bazıları içinse değişimin nedeni yukarıdan gelen bir talimattan çok, token tüketmenin her zaman verimli olmadığının anlaşılması. Amazon.com Inc.’de kıdemli uygulamalı bilim insanı olarak çalışan Abhinav Bohra, yılın başlarında araştırma makalelerini inceleme hızını artırmak için en gelişmiş modelleri kullanmaya başladığını söylüyor. Eskiden haftada beş makale okuyabiliyorsa, yapay zekâ araçları sayesinde artık ortalama 25 makaleyi tarayabiliyordu. Bunu yalnızca kişisel gelişimi için yapmıyordu; aynı zamanda kendisinden beklenenin bu olduğunu düşünüyordu. Bohra, “Token kullanımımı maksimize etmeye ve farklı teknikler denemeye çalışmazsam işimi tam kapasiteyle yapmıyor gibi görünebilirim diye düşünüyordum” diye hatırlıyor.

Ancak Bohra’nın token maliyetleri hızla yükselirken, üzerine yağan yeni bilgi miktarı da yönetebileceğinden çok daha fazlaydı. Şimdi sarkaç ters yöne dönüyor gibi görünürken, daha dar kapsamlı taleplerde bulunmaya ve işlerinin büyük kısmında daha küçük açık kaynaklı modellere yönelmeye başlamış durumda. En büyük sorunun ise sektörün sürekli değişen beklentilerini karşılayıp karşılamadığına dair süregelen şüphe hissi olduğunu söylüyor. Araştırmacı kimliğiyle konuştuğunu özellikle vurgulayan Bohra, “Bu atmosfer insanda gerçekten de ‘Acaba yeterince token harcıyor muyum, yoksa harcamıyor muyum?’ duygusunu yaratıyor” diyor.

Gelişimi sekteye uğratmadan maliyetleri düşürmenin yollarını bulmak artık şirket yöneticilerinin omuzlarında. Üstelik onlar da bu geçiş sürecinde yollarını deneyerek bulmaya çalışıyor. Örneğin Taylor, yardım için Claude’a başvurdu. Claude’un yaptığı analiz, Taylor’ın Anthropic’in güçlü Opus modelini en basit görevler için bile kullandığını ortaya koydu ki yapay zekâ dünyasında bunun karşılığı, bir şekerlemeyi kızartmak için alev makinesi kullanmak gibiydi. Bunun üzerine Taylor varsayılan modelini daha hafif bir seçeneğe çevirdi, her hafta çalışan otomatik görevlerin sayısını azalttı ve Claude’dan her soru sorduğunda tüm Google Drive’ını taramasını istemek yerine daha dar kapsamlı ve daha hedefli komutlar vermeye başladı.

Taylor’ın anlattığına göre bu değişiklikler neredeyse anında sonuç verdi ve token maliyetlerini yüzde 13 düşürdü. Şimdi ise Gusto, şirket genelinde varsayılan ayarları değiştirmeye ve mühendisler için Taylor’ın “yumuşak limitler” olarak tanımladığı uygulamaları devreye almaya başladı. Taylor, “Belirli bir seviyeye ulaştığınızda, bunun etkisi üzerine bir konuşma yapılması gerekiyor” diyor.

Bazı yöneticiler için bu geri dönüş, aynı zamanda bir tevazu dersi niteliği taşıdı. Yirmi yılı aşkın süredir mühendis olarak çalışan Brett Levenson da heyecana kapıldığını kabul ediyor. Kurucusu olduğu Moonbounce adlı girişim, şirketlerin yapay zekâ tarafından üretilen içeriklere yönelik politikalarını uygulamalarına yardımcı oluyor. Levenson, hiçbir zaman açıkça tokenmaxxing’i teşvik etmediğini söylüyor ancak çalışanlarını çok fazla kural koymadan denemeler yapmaya özendirdiğini de kabul ediyor. Levenson bu dönemi, “Biraz fazla rahat davranıp ‘Hadi gidin, daha fazla yapay zekâ kullanın’ diyorduk” diye anlatıyor.

Ancak deneyimli bazı mühendisler buna itiraz etti. Levenson’a göre, yıllar içinde geliştirdikleri becerilerin bir makineye devredilmesinden rahatsızlık duyuyorlardı ve yapay zekânın bunu kendilerinden daha iyi yapabileceğine de pek inanmıyorlardı. Sonunda haklı çıktıkları ortaya çıktı. Birkaç ay içinde şirketin yapay zekâ harcamaları kontrolden çıkmakla kalmadı, Moonbounce aynı zamanda 12 kişilik ekibin incelemeye vakit bulamadığı, anlaşılması güç yapay zekâ üretimi kodların altında ezilmeye başladı. Levenson ayrıca şirketin yapay zekâ kullanımını tarayan otomatik bir sistem devreye soktu ve kullanımın yüzde 5’inden fazlasının “iş dışı” faaliyetlere gittiğini tespit etti. Buna çalışanların kişisel seyahat planları yapması ya da Claude’la sonu gelmeyen döngüsel sohbetlerde dertleşmesi gibi kullanımlar da dahildi.

Sonunda Levenson ve kurucu ortağı, tüm çalışanların katıldığı bir toplantı düzenleyerek yeni bir döneme geçildiğini duyurdu. Ekiplerine, Moonbounce’un şirketin yapay zekâ araçlarının iş dışı kullanımını yasaklayan yeni kurallar uygulayacağını söylediler ve herkesi harcamaları konusunda daha “düşünceli” davranmaya teşvik ettiler. Levenson, süreci bir suçlama oyununa dönüştürmemeye özen gösterdiğini belirterek, “Sonuçta bunu yapmalarını isteyen bizdik” diyor.

O günden bu yana şirketin yapay zekâ faturaları yüzde 10 geriledi. Levenson bunun on binlerce dolarlık bir tasarrufa karşılık geldiğini hesaplıyor. Morale gelince, çalışanlardan en sık duyduğu geri bildirimin ne olduğu sorulduğunda tek bir cümleyi aktarıyor: “Ben size söylemiştim.”