Yapay zekâ tartışmasında son günlerde ABD’nin iki önemli merkezinden dikkat çekici iki hamle geldiğini görüyoruz.

New York’ta, hızla gelişen yapay zekânın yaratabileceği risklere karşı bir “AI Emergency Task Force” kurulması önerildi. Önerinin arkasındaki düşünce oldukça çarpıcı: Yapay zekâdaki gelişmeler artık yalnızca teknoloji politikası olarak değil, ekonomi, istihdam, kamu güvenliği ve toplumsal riskler açısından da ele alınmalı. New York yönetiminin olası risklere daha hızlı cevap verebilmesi için özel bir acil durum yapısı oluşturulması tartışılıyor.

Kaliforniya ise bir adım daha ileri gitti. Vali Gavin Newsom, frontier AI modelleri için bir “AI kill switch”, yani acil kapatma mekanizmasının oluşturulmasını gündeme aldı. Böyle bir mekanizma, ciddi ve kontrol edilemeyen bir güvenlik riski ortaya çıkması halinde gelişmiş AI sistemlerinin devre dışı bırakılabilmesini hedefliyor. Newsom ayrıca bağımsız üçüncü taraf denetimlerinin ve AI şirketlerinin güvenlik süreçlerinin daha yakından izlenmesinin değerlendirilmesini istedi.

Birkaç yıl önce yapay zekâ düzenlemelerinde veri gizliliği, telif hakkı ve algoritmik ayrımcılığı konuşuyorduk. Bugün New York “AI Emergency Task Force”, Kaliforniya ise “AI kill switch” tartışıyor.

Peki ne değişti?

Yapay zekâ dünyasında son günlerde yapılan açıklamalar, sıradan bir teknoloji tartışmasının ötesine geçmiş durumda. Çünkü bu kez uyarılar yapay zekâya mesafeli akademisyenlerden, düzenleyici kurumlardan ya da teknoloji karşıtlarından değil; teknolojiyi bizzat geliştiren isimlerden geliyor. Anthropic CEO’su Dario Amodei’nin yaptığı çağrı oldukça net: Frontier AI, yani dünyanın en gelişmiş yapay zekâ modellerinin yeteneklerinin ilerleme hızını, güvenlik ve risk önleme çalışmalarının yetişebilmesi için yavaşlatmak gerekiyor. Burada önemli bir ayrıntı var. Amodei “yapay zekâyı durduralım” demiyor. Model eğitimini veya teknolojik ilerlemeyi tamamen durdurmayı da önermiyor. Tam tersine, ilerlemenin devam edeceğini ancak modellerin yetenekleri hızla artarken güvenlik, denetim ve uyum çalışmalarının da yetişmesi için yeterli zaman tanınması gerektiğini savunuyor.

Asıl dikkat çekici gelişme ise Amodei’nin yalnız kalmaması oldu.

OpenAI CEO’su Sam Altman da Amodei’nin çağrısına destek verdi. Altman, “frontier’ı kontrollü bir hızda ilerletmemiz gerektiği konusunda Dario’ya katılıyorum” diyerek, bağımsız değerlendiricilere şirket çalışanlarına benzer düzeyde erişim verilmesini “harika bir fikir” olarak nitelendirdi ve OpenAI’nin de aynı uygulamayı hayata geçireceğini açıkladı. Elon Musk’ın cevabı ise çok daha kısaydı: “Dario haklı”

Bu üç ismin aynı noktada buluşması küçümsenecek bir gelişme değil. Anthropic, OpenAI ve Musk’ın xAI’ı bugün dünyanın en gelişmiş yapay zekâ modellerini geliştiren başlıca şirketler arasında ve birbirleriyle teknoloji, yetenek, sermaye ve pazar payı için yoğun biçimde rekabet ediyor. Şimdi ise bu yarışın içindeki üç önemli isim, yarışın hızının güvenlik mekanizmalarının önüne geçip geçmediğini tartışmaya başladı.

Tehlike artık sadece teorik değil

Bu uyarıların zamanlaması da tesadüf değil. OpenAI, 1 Eylül’de geliştirdiği Astra’nın şirketin Preparedness Framework’ü kapsamında “Critical” siber güvenlik kapasitesi eşiğine ulaştığını açıkladı. Astra, OpenAI’nin bu seviyede sınıflandırdığı ilk model oldu. Bunun pratikte ne anlama geldiği daha çarpıcı. OpenAI’ye göre Astra, insanın her adımı yönlendirmesine ihtiyaç duymadan daha önce bilinmeyen güvenlik açıklarını bulabiliyor ve bunları istismar edecek yöntemler geliştirebiliyor.

Testlerde Astra iki “zero-day” açığı keşfedip bir saldırı zincirinde kullandı; başka değerlendirmelerde tarayıcı sandbox’ından çıkarak ana sistemde komut çalıştırdı ve farklı açıkları birleştirerek “root” yetkisine ulaşabilecek bir yöntem geliştirdi. Bunlar bilim kurgu değil; OpenAI’nin kendi güvenlik testlerinden açıkladığı sonuçlar. Şirket bu gelişmeler üzerine Astra’nın geliştirme ve piyasaya sürülme sürecinin bazı bölümlerini birkaç hafta geciktirdi. Ağustos ayında da frontier araştırma ortamlarında güvenlik standartlarını yükseltirken ölçekleme hızını geçici olarak yavaşlattığını açıkladı.

Daha dikkat çekici olan ise OpenAI’nin Hugging Face güvenlik olayının ardından attığı adım oldu. Astra olayın kendisine karışmamış olmasına rağmen, OpenAI bazı Astra eğitimleri dahil belirli frontier eğitim çalışmalarını iki hafta durdurdu. Bu süre içinde eğitim altyapısındaki izolasyon ve ağ kontrolleri güçlendirildi, izleme sistemleri genişletildi ve alignment standartları sıkılaştırıldı.

Dolayısıyla “biraz yavaşlamamız gerekiyor” tartışması artık yalnızca gelecekte ortaya çıkabilecek varsayımsal bir süper zekâ riskine dayanmıyor. Frontier modellerin bugün laboratuvar ortamında gösterdiği yetenekler ve yaşanan gerçek güvenlik olayları, güvenlik tartışmasını geleceğin senaryosundan bugünün yönetim kurulu gündemine taşıyor.

Zuckerberg aynı tehlikeye bakıp farklı bir sonuç görüyor

Tartışmanın diğer tarafında Mark Zuckerberg var. Zuckerberg da riskleri kabul ediyor ancak asıl tehlikeyi, güçlü yapay zekânın birkaç şirket veya kişinin elinde yoğunlaşmasında görüyor. Eylül ayında oldukça açık konuştu: “Bu kadar yetenekli bir şeyin az sayıda laboratuvarın veya insanın kontrolünde olmasından çok daha fazla endişe duyuyorum”. Gelişmiş modellerin birkaç laboratuvar tarafından geliştirilip yayımlanmamasını “oldukça tehlikeli” olarak nitelendirdi.

Zuckerberg’in çözümü Amodei’den farklı: Yavaşlamak yerine, güçlü yapay zekânın daha geniş kesimlere ulaşmasını savunuyor.

İşte paradoks da burada başlıyor. Amodei, Altman ve Musk kabaca “çok hızlı gidiyoruz” derken Zuckerberg’in endişesi “çok az kişinin elinde gidiyoruz”. Bir taraf hız riskine, diğer taraf güç yoğunlaşması riskine bakıyor. Aslında her iki tarafın ortak sorusu aynı: İnsan kontrolünü nasıl koruyacağız?

Şirketler hızlandı, yönetişim geride kaldı

Bu endişenin yalnızca Silikon Vadisi’ndeki birkaç CEO’ya ait olduğunu düşünmek de hata olur. Deloitte’un 2026 State of AI in the Enterprise araştırması, 24 ülkeden 3.235 iş ve teknoloji liderini kapsıyor. Araştırmaya göre şirketlerin yüzde 74’ü, önümüzdeki iki yıl içinde AI agent’larını en az orta düzeyde kullanacağını öngörüyor. Buna karşılık yalnızca yüzde 21’i, otonom AI agent’larının risklerini yönetebilecek olgun bir yönetişim modeline sahip olduğunu söylüyor. Bence rakamların en çarpıcı tarafı tam olarak bu: Teknolojinin yayılma hızı ile onu kontrol etme kapasitesi arasında ciddi bir mesafe oluşuyor.

PwC’nin 2026 verileri de benzer bir tablo çiziyor. Şirketlerin yalnızca yüzde 51’i yapay zekâ risklerini yönetmek için resmîleştirilmiş bir yaklaşıma sahip. Yani şirketler AI kullanımını hızlandırırken, önemli bir bölümünde risk yönetimi ve yönetişim aynı kurumsal olgunluğa henüz ulaşmış değil.

Düzenleyiciler de aynı sorunun peşinde

Avrupa Birliği’nin AI Act yaklaşımı bu tartışmanın regülasyon tarafındaki en önemli örneklerinden biri. Genel amaçlı AI modellerine ilişkin yükümlülükler Ağustos 2025’te uygulanmaya başladı; Avrupa Komisyonu’nun yaptırım yetkileri ise Ağustos 2026 itibarıyla devreye girdi. Özellikle “systemic risk” taşıyan gelişmiş modeller için model değerlendirmesi, risk azaltma, ciddi olayların bildirilmesi ve siber güvenlik gibi ek yükümlülükler bulunuyor. Yani Silikon Vadisi’nin tartıştığı “yetenek ile güvenlik arasındaki denge” artık doğrudan regülasyonların da konusu.

Ancak burada başka bir problem ortaya çıkıyor: Yapay zekâ küresel, regülasyon ise büyük ölçüde ulusal veya bölgesel. ABD yavaşlarsa Çin ne yapacak? Avrupa daha sert kurallar koyarsa inovasyon başka bölgelere mi kayacak? Bir şirket güvenlik nedeniyle modelini üç ay geciktirirken rakibi piyasaya sürerse yönetim kurulu bu kararı ne kadar sürdürebilecek?

Amodei’nin uluslararası koordinasyon çağrısının arkasında biraz da bu “mahkûmun ikilemi” var.

Bir tarafta alarm, diğer tarafta dev ekonomik beklenti

Tam da bu tartışmaların yaşandığı hafta Elon Musk başka bir uçtan oldukça iddialı bir öngörü ortaya koydu: Yapay zekâ ve robotların birlikte 10 yıldan kısa sürede küresel ekonomiyi iki katından fazla büyüteceğini söyledi.

Bu, elbette Musk’ın kendi öngörüsü; arkasında kamuoyuyla paylaşılmış ayrıntılı bir ekonomik model veya metodoloji bulunmuyor. Ancak tahminin ölçeği, yapay zekâ tartışmasının geldiği sıra dışı noktayı gösteriyor: Bir tarafta küresel ekonomiyi ikiye katlayabilecek bir üretkenlik potansiyeli konuşulurken, diğer tarafta aynı teknolojiyi geliştiren isimler güvenlik nedeniyle frene basılması gerektiğini söylüyor.

İşte bence asıl “wow” nokta burada. İnsanlık belki de ilk kez bir teknolojinin ekonomik potansiyeli ile kontrol riski arasındaki farkın bu kadar hızlı açıldığı bir döneme giriyor. Buhar makinesinin yayılması on yıllar aldı. Elektriğin ekonomiyi dönüştürmesi onlarca yıl sürdü. İnternet bile bugünkü ölçeğine bir gecede ulaşmadı. Yapay zekâda ise yeni bir modelin kabiliyeti birkaç ay içinde değişebiliyor.

Bu nedenle artık doğru soru yalnızca “Bir sonraki model ne kadar güçlü olacak?” değil.

Asıl soru şu: Yapay zekâ bizden daha hızlı gelişmeye başladığında, onu yönetecek şirketler, devletler, güvenlik sistemleri ve kurallar aynı hızda gelişebilecek mi?

Belki de önümüzdeki birkaç yılın en önemli teknoloji yarışı daha güçlü modeli kimin geliştireceği olmayacak.

Asıl yarış, güç ile kontrol arasındaki mesafeyi kimin kapatabileceği olacak.