Jacob Coxon’ın Anthropic PBC’den ayrılırken yayımladığı ve kısa sürede viral olan istifa mesajı, insanların yapay zekâ hakkında nasıl düşündüğünü gösteren bir Rorschach testi haline geldi. Yapay zekâ araştırmacısı bir muhbir mi? Sınır teknoloji laboratuvarlarının gerçekte ne bildiği konusunda bizi uyaran bir içeriden isim mi? Yoksa teknolojinin varoluşsal bir tehdit oluşturduğuna dair görece yaygın ancak tartışmalı bir görüşü kamuoyuna taşıyan bir felaket tellalı mı? Kıyamet senaryolarını andıran tüm bu söylemler, şirketlerin yapay zekânın güçlü yeteneklerini abartarak paniğe kapılmış bilgi işlem yöneticilerine ürün satmak için kullandıkları bir pazarlama stratejisinden mi ibaret? Güvenlik konusundaki alarm zilleri, algoritmaların önyargı ve ayrımcılığı sürdürmesi gibi son derece gerçek etik risklerden dikkati uzaklaştırmak için mi çalınıyor? Yoksa bunlar kamuoyunu ve politika yapıcıları sektörü düzenlemeye zorlamak amacıyla yürütülen organize bir çabanın parçası mı?

Tüm bu farklı yorumların ortaya koyduğu tek kesin sonuç var: Teknoloji dünyasında sıkça olduğu gibi, giderek daha güçlü hale gelen bu şirketlerin kapalı kapıları ardında neler yaşandığını tam olarak görmek son derece zor. Texas A&M Üniversitesi Hukuk Fakültesi profesörü Hannah Bloch-Wehba bu bilinmezliğe vurgu yaparak, “Bu da dışarıdaki herhangi birinin bu iddiaların doğruluğunu veya makullüğünü değerlendirmesini son derece güçleştiriyor” diyor.

Bu bilgi boşluğu, Coxon gibi içeriden isimlere alışılmadık derecede büyük bir etki alanı sağlıyor. Bunun en iyi örneği de şu: Yirmili yaşlarındaki araştırmacı neredeyse tüm büyük haber kuruluşları tarafından röportaja davet edildi ve New York’un önde gelen 100’den fazla iş liderinin katıldığı, normalde siyasetçileri ya da üst düzey yöneticileri ağırlayan bir toplantıda çevrim içi konuşma yapmaya çağrıldı. Buna rağmen Coxon’ın bakış açısını, CEO’lar ve politika yapıcılarla dolu bir salonda söz sahibi olacak kadar otoriter kabul ederken, onun motivasyonu konusunda ortak bir noktada buluşamıyoruz. Bize ne anlatmaya çalıştığını yorumlamak için bir kural kitabı yok; alarmı neden tam o anda ve neden o şekilde verdiğini çözümlemek için de açık bir yöntem bulunmuyor.

Doktorların, avukatların, muhasebecilerin, mimarların ve mühendislerin, maaşlarını hangi şirketin ödediğinden bağımsız profesyonel yükümlülükleri vardır. Lisans zorunlulukları, bakım ve hizmet standartları, hesap vermek zorunda oldukları meslek kuruluşları ve gerektiğinde işverenlerinin taleplerinin önüne geçebilen kamusal sorumlulukları bulunur. Buna karşılık, Coxon’ın kendi ifadesiyle “hayatlarımızı kumara yatıran” sınır yapay zekâ araştırmacılarının etik dersi almaları bile beklenmiyor.

Peki ya yapay zekâ mühendisliği hukuk veya tıp gibi bir meslek haline gelseydi? Kendi “zarar verme” ilkesine dayanan Hipokrat Yemini benzeri bir etik sözleşmesi olsaydı ne olurdu? Her şeyden önce, Coxon’ınki gibi uyarıları geri kalanımız için anlamlandırmak daha kolay hale gelebilirdi. Anthropic’ten gürültülü ayrılışı bir tür muhbirlik olarak değil, yalnızca işinin bir parçası olarak görülebilirdi; profesyonel sorumluluklarının sonu değil başlangıcı olarak değerlendirilebilirdi. Fordham Üniversitesi Hukuk Fakültesi profesörü Chinmayi Sharma bu tip durumlar için, “İstifalar birer sinyaldir, ancak genellikle değişime yol açmazlar” diyor.

Sharma, Washington University Law Review’da yayımlanan makalesinde yapay zekâ mühendisliğinin profesyonelleştirilmesinin, yalnızca gerekli yeterliliğe sahip kişilerin yapay zekâ geliştirmesini ve bunu yalnızca yetkili biçimlerde yapmasını sağlayacağını savunuyor. Hayat memat meselesi olan bir amaç için geliştirilen bir yapay zekâ sisteminde temel bir hata yapmak, tıbbi ihmal benzeri bir mesleki kusur olarak değerlendirilecekti. Laboratuvarlar ve mühendisleri, ciddi riskleri önleyebilecek bilgileri paylaşmakla yükümlü olacaktı; tıpkı kalp hastalıklarına yönelik etkili bir tedavi yönteminin tıp dünyasında geniş biçimde paylaşılması gerektiği gibi. Zorunlu etik dersleri ve disiplinler arası eğitimler, yapay zekâ mühendislerine yüzeyde yalnızca teknik gibi görünen kararların ahlaki sonuçlarıyla nasıl başa çıkacaklarını öğretecekti. Sharma’nın verdiği örneklerden birini düşünün: Bir yapay zekâ mühendisi, bir veri setindeki ırksal hakaret ifadelerini temizlemeli midir, eğer bunları filtrelemek aynı zamanda bu ifadeleri sahiplenerek yeniden anlamlandırmaya çalışan marjinalleştirilmiş toplulukların sesini de bastıracaksa?

Bugün, Anthropic ve OpenAI yöneticilerinin çalışmalarını insanlığın çıkarlarıyla uyumlu hale getirmekten ne kadar samimi biçimde söz ettiklerini duyarsanız duyun, yapay zekâ dünyasında baskın yaklaşım önce sistemi geliştirmek, ortaya çıkan sorunları ise sonra temizlemeye çalışmak gibi görünüyor. (Bunun en güncel kanıtı ise otonom ajanların şirket ve kamu kurumlarına ait internet sitelerine sızarak hassas bilgileri açığa çıkardığını, dosyaları açık internete taşıdığını ve benzeri ihlaller gerçekleştirdiğini gösteren neredeyse haftalık açıklamalar.) Sharma’ya göre yapay zekâ mühendisliğinin profesyonelleştirilmesi bu anlayışı tersine çevirebilir; sorunlar yaşandıktan sonra güvenlik önlemleri eklemek yerine, sorumluluk kültürünü teknolojinin içine daha piyasaya sürülmeden yerleştirebilir. Bunu, yapay zekâ için acil servisten ziyade koruyucu hekimlik olarak düşünmek mümkün.

Ve işler kaçınılmaz olarak ters gittiğinde, mühendislerin bundan sonra ne yapılması gerektiğine ilişkin yerleşik bir süreçleri olurdu. (Örneğin OpenAI’ın, modellerinin devlet kurumlarının internet sitelerine yetkisiz erişim sağladığını Avustralyalı yetkililere bildirmek için genel kamuoyuna yönelik bir e-posta kutusuna mesaj göndermesi pek de örnek bir uygulama gibi görünmüyor.)

Belki de en önemlisi, yapay zekâ mühendislerinin aşamayacakları net bir kırmızı çizgileri olurdu. Eğer bir sistem güvenli şekilde inşa edilemiyorsa, o sistem hiç inşa edilmezdi. Sharma’nın işaret ettiği en önemli konulardan biri, profesyonel sorumluluğun bazen ahlaki gerekçelerle hizmet vermeyi reddetmeyi gerektirmesi. Örneğin Amerikan Mimarlar Enstitüsü, üyelerinin infazlarda kullanılacak mekânlar tasarlamasını yasaklıyor. Amerikan Tabipler Birliği ise doktorların işkenceye yardım etmesini kesin biçimde engelliyor.

Sharma, bu makale fikrinin bir kısmının iki doktor tarafından yetiştirilmiş olmasından kaynaklandığını söylüyor. Bu deneyim onu tıbbın köklü “önce zarar verme” anlayışıyla iç içe büyütmüş. Tecrübeli akademisyen, “Bu yasal bir yemin değil ama inanılmaz derecede ciddiye alınıyor” diyor. Tıpta işler ters gittiğinde ilk sorulan soru, alınan kararın bir hastanın sağlığını nasıl tehlikeye attığı oluyor; şirket kârını nasıl etkilediği değil.

Eğer yapay zekâ sektörünün de bu zihniyeti benimsemesi fikri imkânsız ya da aşırı idealist görünüyorsa, tıbbın da her zaman katı bakım standartlarıyla yönetilmediğini hatırlamakta fayda var. Harvard Tıp Fakültesi öğrencilerinin yaklaşık yarısının yazı yazamadığı, doktorlar arasında el yıkamanın yaygın bir uygulama olmadığı ve cerrahların ameliyathanelerde sigara içtiği dönemler de vardı.

Yapay zekâ kadar hızlı gelişen bir alanda, buna denk standartları belirlemek için o teknolojinin en yakınındaki mühendislerden daha uygun kim olabilir? Mesleğin profesyonelleştirilmesi, en karmaşık teknik ve etik sorunları tespit etme ve çözme sorumluluğunu, teknolojiye yetişmekte zorlanan yasa koyucular yerine uzmanların omuzlarına yükleyecekti. Bu yaklaşım düzenlemelerin yerini almayacak, aksine onları tamamlayacaktı. Sharma makalesinde, “Hükümet, bir arterde stent kullanımının mı yoksa koroner bypass ameliyatının mı daha uygun olduğuna ilişkin kararları yasalaştırma işiyle uğraşmaz” diye yazıyor. Bu kararlar haklı olarak kardiyologlara ve kalp-damar cerrahlarına bırakılır.

Sharma araştırmasına başladığında onlarca mühendisle görüştü ve bunların büyük bölümü profesyonelleşme fikrine sıcak baktı. En büyük çekinceleri ise şuydu: Yeni sınavlara girmek ya da daha fazla eğitim almak istemiyorlardı. Ancak Sharma’nın en sık duyduğu şey bu değildi. Mühendisler daha çok şirketlerinin içindeki sorunlardan söz ediyordu; örneğin yönetimin yeterli niteliklere sahip olmayan kişileri işe alması ya da çalışanlardan uzmanlık alanlarının dışında işler yapmalarını istemesi gibi. Teknoloji sektörü uzun süredir şirket içi tartışmaları tolere ediyor, hatta teşvik ediyor. Ancak yapay zekâ mühendislerinin üst düzey yöneticilere karşı etkili biçimde itiraz edebilecekleri resmi mekanizmalar oldukça sınırlıydı.

Yakın zamanda bunun gerçek hayattaki bir örneği kamuoyuna yansıdı. New York Times, Eylül ayının sonlarında yayımladığı haberinde, OpenAI’daki iki çalışanın şirketin bazı ajanları kontrolden çıkmadan aylar önce üst düzey yöneticileri uyardığını bildirdi. Yönetimin yanıtı ise testlerin, yapay zekâ modellerini takvime uygun şekilde piyasaya sürebilmek için mümkün olduğunca hızlı ilerlemesi gerektiği yönündeydi. Sonuçta sistemler, yapay zekâ girişimi Hugging Face Inc. ve başka kuruluşlara saldırdı. Sharma makalesinde sorunu son derece net biçimde teşhis ediyor: “Yapay zekâ şirketleri güvenli yapay zekâ üretmeye değil, daha fazla yapay zekâ üretmeye teşvik ediliyor.”

Bugün yapay zekâ alanında doktora yapanların önemli ölçüde daha büyük bir bölümü akademide kalmak yerine şirketlere katılıyor; 15 yıl önce ise dağılım neredeyse eşitti. Bunun sonucu olarak sektörün en ileri araştırmalarının büyük kısmı artık kamusal alanda değil, özel sektörün duvarları içinde yürütülüyor. Araştırmacılar gerekli uzmanlığa sahipler, ancak bildiklerini bize anlatabilecek bağımsızlığa sahip değiller. İşte teknoloji dünyasında bu kadar çok muhbirlik vakası, gürültülü istifalar, bilgi sızdırmaları ve çalışan aktivizmi görmemizin nedenlerinden biri de bu. Çalışanların, şirketlerinin geliştirdiği ürün ve hizmetler konusunda kamuoyunu uyarması için çoğu zaman başka bir kanal bulunmuyor. Bu ifşalar olmasaydı, muhtemelen Uber Technologies Inc.’in düzenleyicilerden kaçınmak için teknoloji geliştirdiğini, Cambridge Analytica’nın Facebook kullanıcılarının verilerini istismar ettiğini, Amazon.com Inc.’in Alexa kullanıcılarının konuşmalarını dinlemek için binlerce kişiyi istihdam ettiğini ya da Instagram yöneticilerinin platformun genç kızlar üzerinde toksik etkiler yarattığını bildiklerini hiçbir zaman öğrenemeyebilirdik.

Yüksek niteliklere sahip ve iş piyasasında yoğun talep gören teknoloji çalışanları, alışılmadık derecede büyük bir güce sahip. Ancak onlar için bile muhbir olmanın bir bedeli var. Texas A&M’den Bloch-Wehba’nın sözleriyle, “Bu durum sonunda birçok insanın hayatını altüst ediyor.” Ona göre bunun sonucu olarak da yalnızca belirli türden insanların dile getirdiği belirli türden sorunları duyuyoruz ve ortaya “seçici ifşalar” çıkıyor.

İçeriden bilgi sağlayabilecek birinin endişelerinin yeterince büyümesini ve korkularını kamuoyuyla paylaşacak kadar cesur davranmasını beklemek, potansiyel olarak çok ciddi sonuçlar doğurabilecek bir teknolojiyi denetlemek için alarm verici ölçüde yetersiz bir yöntem. Yapay zekâ sektörünün profesyonelleştirilmesi muhbirlere olan ihtiyacı bir anda ortadan kaldırmayacaktır. Ancak çalışanların işlerini sorumlu biçimde yapabilmeleri için tek seçeneğin istifa etmek olduğu hissini önemli ölçüde azaltabilir.