Varoluşsal Riskler Üzerine Bir Değerlendirme
İnsanlık, tarihinin hiçbir döneminde bugünkü kadar güçlü araçlara sahip olmamıştı. Ateşi kontrol etmeyi öğrenen ilk insandan nükleer reaktör inşa eden mühendislere uzanan bu yolculuk, her adımda beraberinde yeni tehlikeler getirdi. Ancak 21. yüzyılda geliştirilen teknolojiler, geçmişteki tüm riskleri gölgede bırakacak bir nitelik kazanmaya başladı. Artık söz konusu olan yalnızca bir şehrin, bir ülkenin ya da bir medeniyetin yıkımı değil; biyolojik türümüzün varlığının sona ermesi ihtimalidir. Bu makale, uzmanların “varoluşsal risk” olarak tanımladığı bu tehlikeleri, bilimsel ve felsefi bir perspektiften ele almaktadır.
Yapay Genel Zeka ve Kontrol Kaybı
Bugün kullandığımız yapay zeka sistemleri, belirli görevlerde insanı aşan performans sergileyen ama genel muhakeme yeteneğinden yoksun dar yapay zeka örnekleridir. Oysa araştırmacıların üzerinde çalıştığı hedef çok daha büyüktür: her alanda insan düzeyinde ya da üzerinde düşünebilen yapay genel zeka (AGI). Oxford Üniversitesi filozofu Nick Bostrom, bu geçişin insanlık için son teknolojik icadı olabileceğini ileri sürmektedir; çünkü bu noktadan sonra teknolojiyi geliştirecek olan insanlar değil, makinelerin kendisi olacaktır.
Tehlikenin özü, niyetle değil uyumla ilgilidir. AGI sistemlerinin hedeflerinin insan değerleriyle uyumlu olmasını sağlamak, “hizalama problemi” olarak bilinir ve bugün yapay zeka güvenliğinin en kritik araştırma alanını oluşturmaktadır. Yanlış hizalanmış bir AGI, insanlığa zarar vermeyi amaçlamak zorunda değildir; tıpkı bir insan inşaat alanındaki karınca yuvasını kasıtlı olarak tahrip etmeden önce düşünmediği gibi, bu sistem de hedeflerine ulaşırken insanlığı yalnızca bir engel ya da kaynak olarak değerlendirebilir.
Tehlikeyi daha da derinleştiren faktör hızdır. İnsan denetim mekanizmaları, saniyeler içinde milyarlarca işlem gerçekleştirebilen bir sistemi gerçek zamanlı olarak izleyemez. Bu asimetri, insanlığa düzeltme fırsatı tanımadan geri döndürülemez hasarın oluşabileceği bir senaryo doğurmaktadır.
Sentetik Biyoloji ve Tasarlanmış Pandemiler
COVID-19 pandemisi, biyolojik bir tehdidin küresel medeniyeti nasıl felç edebileceğini somut biçimde gösterdi. Ancak doğanın ürettiği patojenlerin yarattığı yıkım, kasıtlı olarak tasarlanmış biyolojik silahların potansiyelinin yanında oldukça sınırlı kalabilir.
CRISPR-Cas9 gibi gen düzenleme teknolojilerinin demokratikleşmesi, biyoloji alanındaki en derin kaygılardan birini beraberinde getirmektedir. Yalnızca on yıl önce devlet düzeyindeki laboratuvarlara özgü olan bu yetkinlikler, bugün üniversite öğrencilerinin erişebildiği ekipmanlarla kısmen mümkün hale gelmiştir. Teorik olarak, mevcut bir patojeni daha bulaşıcı, daha ölümcül ya da mevcut aşı ve ilaçlara karşı dirençli kılacak modifikasyonlar gerçekleştirilebilir.
Johns Hopkins Merkezi’nin biyogüvenlik uzmanları, “pandemic pathogens” yani pandemi potansiyeli taşıyan patojenlerin kasıtlı olarak üretilmesinin, nükleer silahlardan bile daha yönetilmesi güç bir tehdit oluşturduğunu vurgulamaktadır. Bunun başlıca nedeni, biyolojik silah geliştirmenin nükleer programların gerektirdiği büyük altyapı ve kaynakları gerektirmemesidir. Küçük bir grup, hatta teorik olarak tek bir birey, yeterli biyoloji bilgisiyle yıkıcı bir etki yaratabilecek bir patojen tasarlama kapasitesine yaklaşmaktadır.
Nükleer Silahlar: Eski Tehdidin Kalıcılığı
Soğuk Savaş’ın bitmesiyle birlikte toplumsal bellekten kısmen silinen nükleer tehdit, gerçekte hiçbir zaman ortadan kalkmadı. Bugün dünyada yaklaşık 12.500 nükleer başlık bulunmaktadır ve bunların önemli bir kısmı kısa süre içinde fırlatılmaya hazır durumda beklemektedir.
Nükleer savaşın doğrudan yıkımının ötesinde, bilim insanlarının en çok endişe duyduğu senaryo nükleer kış olgusudur. Büyük çaplı bir nükleer alışveriş, atmosfere milyarlarca ton is ve kül salarak güneş ışığını yıllarca engelleyebilir. Bu durum, küresel tarım sistemlerinin çökmesine, açlık dalgalarına ve sonuç olarak doğrudan nükleer patlama kayıplarından çok daha fazla insanın hayatını kaybetmesine yol açabilir. Hesaplamalar, orta ölçekli bir nükleer savaşın bile beş milyarı aşkın insanı açlık yoluyla öldürebileceğine işaret etmektedir.
Üstelik risk, yalnızca devlet aktörleriyle sınırlı değildir. Nükleer materyallerin terörist örgütlerin eline geçme ihtimali, uluslararası güvenlik gündeminin sürekli bir maddesi olmaya devam etmektedir.
İklim Mühendisliği ve Terraforming Riskleri
Küresel ısınmanın getirdiği baskı, bazı bilim insanlarını ve hükümetleri iklimi kasıtlı olarak manipüle etmeye yönelik teknolojileri ciddiye almaya itmektedir. Jeomühendislik olarak bilinen bu yaklaşımlar arasında stratosfere sülfat aerosolleri enjekte etmek, güneş ışığını uzaya yansıtmak ya da okyanuslara demir tozu ekmek gibi yöntemler yer almaktadır.
Bu müdahalelerin yaratabileceği zincirleme etkiler son derece öngörülemezdir. Bir bölgenin iklimini iyileştirmeye yönelik bir uygulama, başka bölgelerde muson yağmurlarını kesintiye uğratabilir, kıtlıklara zemin hazırlayabilir ya da ekosistem dengesini kalıcı biçimde bozabilir. Daha da tehlikeli olan boyutu şudur: Bir kez başlatılan jeomühendislik uygulamalarını ani biçimde durdurmak, “sonlandırma şoku” olarak adlandırılan ve atmosferin hızla ısınmasına yol açan felaket senaryosu riskini doğurur. Bir teknolojiye bağımlı hale gelen insanlığın, o teknolojiyi durduramaz hale gelmesi belki de en derin varoluşsal paradoksu temsil etmektedir.
Nanoteknoloji ve Gri Çamur Senaryosu
Atomik ölçekte maddeyi manipüle etme yeteneği vaat eden nanoteknoloji, tıptan enerjiye pek çok alanda devrimler vaat etmektedir. Ancak teorisyen Eric Drexler’in 1986’da ortaya attığı “gri çamur” (grey goo) senaryosu, bu alandaki en çarpıcı varoluşsal riski tanımlamaktadır.
Bu senaryoda, kendi kendini çoğaltabilen nanobotlar bir kontrol arızası sonucu tüm mevcut maddeyi hammadde olarak tüketmeye başlar. Üstel büyüme mantığıyla ilerleyen bu süreç, teorik olarak yalnızca birkaç gün içinde gezegenin tüm biyokütlesini “gri bir çamura” dönüştürebilir. Her ne kadar günümüz nanoteknolojisi bu senaryonun çok gerisinde kalsa da, kendi kendini çoğaltan nanoyapıların geliştirilmesine ilişkin tartışmalar bilim camiasında ciddiyetle sürdürülmektedir.
Uzay Madenciliği ve Gezegensel Riskler
İnsanlığın uzaya açılma hevesi, beraberinde yeni riskler getirmektedir. Asteroit madenciliği için geliştirilen yönlendirme teknolojileri, teorik olarak büyük kütleli cisimleri Dünya’nın yörüngesine yaklaştırabilir. Kasıtlı bir kötüye kullanım olmasa bile, hesaplama hatalarının ya da teknik arızaların böyle bir nesneyi istenmedik bir yörüngeye sokması, Chicxulub olayına —dinozorları yok eden asteroid çarpmasına— benzer sonuçlar doğurabilir.
Bu risk, teknolojinin kendisinden çok yönetim boşluğunun bir ürünüdür. Uzay etkinliklerine ilişkin uluslararası hukuk, büyük ölçüde Soğuk Savaş döneminin antlaşmalarına dayanmakta ve özel şirketlerin artan uzay faaliyetlerini düzenlemekte yetersiz kalmaktadır.
Birleşik Riskler: Tek Tehditten Daha Büyük Bir Tehlike
Varoluşsal risk araştırmacılarının en çok üzerinde durduğu konu, bu tehditlerin birbirini tetikleyen bir kaskad oluşturma potansiyelidir. İklim krizinin derinleşmesi jeopolitik gerilimleri artırabilir; bu gerilimler biyolojik silah kullanımına zemin hazırlayabilir; biyolojik kriz sosyal düzeni çökertebilir; bu kaos ise yapay zeka sistemleri üzerindeki denetimi zayıflatabilir. Tek bir tehdit bile kontrol edilmesi son derece güç olan insanlık, birbirine bağlı çok sayıda varoluşsal riskle aynı anda yüzleşmek zorunda kalabilir.
Cambridge Üniversitesi’nin Varoluşsal Risk Araştırmaları Merkezi (CSER) ve Oxford’un Geleceğin İnsanlığı Enstitüsü (FHI) gibi kurumlar, bu risklerin sistematik biçimde değerlendirilmesi için çalışmalar yürütmektedir. Umut, teknolojiye değil; insanlığın bu teknolojiler üzerindeki bilgeliğine ve yönetim kapasitesine bağlıdır.
Sık Sorulan Sorular
1. Yapay zeka gerçekten insanlığı yok edebilir mi, yoksa bu abartılı bir korku mu?
Yapay zekanın varoluşsal risk oluşturup oluşturmadığı, uzmanlar arasında tartışmalı olmaya devam etmektedir. Ancak Turing Ödülü sahipleri Yoshua Bengio ve Geoffrey Hinton gibi isimler dahil pek çok önde gelen araştırmacı, hizalama problemi çözülmeden geliştirilen gelişmiş yapay zekanın ciddi varoluşsal riskler taşıyabileceğini açıkça ifade etmektedir. Risk abartılı olabilir; ama görmezden gelinecek kadar küçük de değildir.
2. Biyolojik silahların nükleer silahlardan daha tehlikeli olduğu söyleniyor, neden?
Nükleer silah geliştirmek büyük altyapı, hammadde ve uzmanlık gerektirirken biyolojik silah üretimi çok daha az kaynakla mümkün olabilir. Üstelik biyolojik bir etken, serbest bırakıldıktan sonra kendi kendine çoğalır ve yayılır; nükleer bir patlama ise yalnızca belirli bir coğrafyayı etkiler. Bu asimetrik yıkım kapasitesi, biyolojik tehdidi özellikle tehlikeli kılmaktadır.
3. Bu risklere karşı bireyler ne yapabilir?
Bireysel düzeyde yapılabilecekler sınırlı olsa da önemlidir: Bu konularda bilgi sahibi olmak, ilgili politika tartışmalarına katılmak, varoluşsal riski ciddiye alan siyasi adayları ve kurumları desteklemek, yapay zeka güvenliği ile biyogüvenlik alanında çalışan kuruluşları desteklemek sayılabilir. Sessiz çoğunluğun farkındalığı, hükümetlerin önceliklerini şekillendirmede belirleyici rol oynamaktadır.
4. Jeomühendislik neden bu kadar riskli kabul ediliyor?
Çünkü Dünya’nın iklim sistemi son derece karmaşık ve birbirine bağlıdır. Bir bileşene yapılacak müdahale, öngörülemeyen zincirleme etkilere yol açabilir. Daha da önemlisi, jeomühendislik uygulamaları başladıktan sonra durdurulması —ani ısınma şoku riski nedeniyle— başlamamaktan daha tehlikeli hale gelebilir. Bu “geri dönüşsüzlük” özelliği, teknolojiyi özellikle tehlikeli kılmaktadır.
5. İnsanlık bu riskleri yönetmek için yeterince organize mi?
Ne yazık ki, mevcut uluslararası yönetişim yapıları bu yeni nesil tehditlerle başa çıkmak için tasarlanmamıştır. BM gibi kurumlar yavaş işlemekte, teknoloji ise hızla ilerlemektedir. Ancak son yıllarda yapay zeka güvenliği anlaşmaları, biyogüvenlik protokolleri ve nükleer silah azaltma tartışmalarında kısmi ilerlemeler kaydedilmektedir. Sorun, bu adımların yeterince hızlı atılıp atılmadığıdır.
İleri Okuma ve Kaynaklar
- Nick Bostrom — Superintelligence: Paths, Dangers, Strategies (Oxford University Press, 2014) — Yapay genel zekanın varoluşsal risklerini akademik titizlikle ele alan temel başvuru eserlerinden biri.
- Toby Ord — The Precipice: Existential Risk and the Future of Humanity (Hachette Books, 2020) — Oxford araştırmacısının varoluşsal riskleri kapsamlı biçimde değerlendirdiği ve olasılık tahminleri sunduğu güncel bir çalışma.
- Cambridge Üniversitesi Varoluşsal Risk Araştırmaları Merkezi (CSER) — https://www.cser.ac.uk — Biyogüvenlik, yapay zeka riski ve iklim tehditlerini kapsayan güncel araştırma raporları ve politika belgelerine erişim sağlayan akademik kurum.








