Peşi sıra gelen endişe verici uyarılar, dünyanın önde gelen Al laboratuvarlarının CEO'larının bio-teröristlere yönelik yeni teknik yetenekler konusunda alarm vermesinden, Başkan Yardımcısı Kamala Harris'in Al destekli biyolojik silahların “insanlığın varlığını tehlikeye atabileceği” endişesine kadar endüstrinin ve hükümetin en üst düzeylerine kadar ulaşmış durumda.
Eğer uyarılar doğruysa, bu tür gelişmeler dünyayı COVID-19'un yıkım kapsamının çok ötesinde benzeri görülmemiş felaket tehditlerine maruz bırakacak. Ancak bu endişelerin ne derece haklı olduğunu ve bu konuda ne yapılması gerektiğini değerlendirmek, aşağıdakiler de dahil olmak üzere bir dizi karmaşık faktörü tartmayı gerektiriyor:
1. Amerikan bio-güvenliğinin tarihi ve mevcut durumu.
2. Yapay zekanın mevcut bio-güvenlik risklerini değiştirebileceği çeşitli yollar.
3. Hangi gelişmekte olan teknik yapay zeka yetenekleri bu riskleri etkileyebilir?
3. Bugün müdahalelerin gerekli olduğu yerler.
Katastrofik biyolojik risklerin kaynakları oldukça çeşitli. Politikacılar tarih boyunca bilim insanlarının araştırmalarını yeterince takdir etmemişlerdir. Beri yandan siyaset aktörlerinin geleneksel olarak önemli bir biogüvenlik riski kaynağı olduğu da yadsınamaz. Özellikle de Sovyetler Birliği'nin şok edici büyüklükteki biyolojik silah programı bunun en bariz örneğiydi.
ABD Dışişleri Bakanlığı Kuzey Kore, İran, Rusya ve Çin'in potansiyel biyolojik silah kapasitelerine ilişkin endişelerini dile getirse bile, biyolojik silahların kullanışsızlığı ve kesinlik arz etmeyişleri, devletlerin yakın vadede büyük ölçekli biyolojik saldırılar düzenleme ihtimalinin düşük olduğuna işaret ediyor. Öte yandan çeşitli terör grupları başta olmak üzere diğer devlet dışı aktörler, biyolojik saldırı girişimlerinde bulunma konusunda sinir bozucu bir geçmişe sahipler. Ancak bu tür hassas yetenekleri inşa etmenin ve kullanmanın içsel karmaşıklığı nedeniyle, şükür ki ancak sınırlı bir başarı elde edebildiler.
Al gelişmelerinden bağımsız olarak günümüzde bio-teknolojideki hızlı ilerlemeler söz konusu risklerin birçoğunu değiştirdi. Yeni gen düzenleme teknikleri, gen dizileme yöntemleri ve DNA sentez araçlarının bir araya gelmesi, genetik manipülasyonda daha fazla hassasiyet için sentetik biyolojide yeni bir olasılıklar dünyası ve bununla birlikte güçlü biyolojik silah ve kazaların geliştirilmesinden kaynaklanan yeni bir risk dünyasının kapılarını araladı.
Başkaları adına deneyler yapan bulut laboratuvarları, devlet dışı aktörlere, tarihsel olarak tehlikeli kullanımların önünde bir engel teşkil eden deneysel uzmanlığın bir kısmını dışarıdan temin etmelerine olanak sağlayabilir. Çoğu bulut laboratuvarı kötü niyetli faaliyetler için siparişleri tarasa da hepsi bunu yapmıyor ve mevcut biyolojik silah normları, sözleşmeleri ve güvenlik önlemleri, kötü aktörlerin uygulanabilir biyolojik silahlar elde etmede önemli ilerleme kaydetmeleri için bir dizi yolu açık bırakıyor.
Uzmanların dünya bio-güvenliğinin genel durumuna ilişkin görüşleri, özellikle de devlet dışı aktörlerin biyolojik silah elde etmesine ilişkin korkular açısından geniş bir yelpazeye sahip. Gelişmeleri sükunet ve metanetle karşılayanlar biyolojik silah yapımına yönelik uygun yollar mevcut olsa bile bunların yapımı, depolanması ve yayılmasına ilişkin pratiklerin, ilgili tarafların ya fark edemediği ya da yeterince vurgulamadığı çok sayıda potansiyel başarısızlık noktasıyla birlikte, çoğu kişinin fark ettiğinden çok daha karmaşık olduğunu iddia ediyorlar. Ayrıca son yıllarda büyük bir biyolojik saldırının olmadığının da altını çiziyorlar. Yaşananlar karşısında kötümser bir tavır alan kesim ise piyasada mevcut girdileri kullanarak güçlü virüsleri başarılı bir şekilde üretmenin kolaylığını gösteren deneylere ve biyolojik silah üretmek için gereken bilgi ve teknik kabiliyetlerin önündeki engellerin giderek azaldığına vurgu yapıyor. Daha küçük bir grup ise dünyanın biyolojik savunmasının ister doğal yollarla, ister kazara ya da kasıtlı olarak meydana gelsin, büyük ölçekli biyolojik tehditlere karşı yetersiz kalacağı yönünde fikir beyan ediyor.
COVID-19'un dünya hükümetlerinin büyük bir salgının etkilerini kontrol altına alma konusundaki yetersizliğini göstermesine rağmen, onlar daha tehlikeli başka bir biyolojik felaketin olasılığını ve potansiyel zararını azaltma konusunda pek de büyük ilerlemeler kaydedemediler.
Yeni Al yetenekleri, bio-tehditler için risk ortamını çeşitli yollarla yeniden şekillendirebilir. Al, teorik olarak, gelişmiş aktörlerin biyolojik silahları belirli genetik grupları veya coğrafyaları hedef almak gibi daha kesin etkiler için optimize etmelerine olanak tanıyabilecek yeni yetenekler sağlamakta. Bu tür yetenekler spekülatif olsa da gerçekleşmeleri halinde devletlerin stratejik amaçlar için biyolojik silah kullanma güdülerini önemli ölçüde değiştireceğe benziyor. Devletler bu hantal silahlarla kendi ordularının ya da halklarının sağlığını riske atmak yerine diğer ulusların gıda güvenliğini sabote edebilir ya da düşmanlarını bir daha toparlanamayacakları halk sağlığı krizleriyle etkisiz hale getirebilirler. Buna bağlı olarak, aynı teknikler bulaşıcılık ve öldürücülük için optimize edilmiş süper virüsler yaratabilir ve bu da biyolojik silahların yıkıcı potansiyelini önemli ölçüde artırabilir. Ancak bu korkuları yatıştıran, bilim insanlarının üstesinden gelmesi gereken bazı teknik zorluklar mevcut.
Al ile ilgili biyolojik risklere ilişkin en hayati endişe, yakında devlet dışı aktörler tarafından biyolojik ajanların tedarikini hızlandırabilecek araçlardan kaynaklanıyor. Son zamanlarda yapılan çalışmalar, eldeki Al araçlarının biyolojik ajanlar edinme becerilerini hızlandırmaya yardımcı olabileceğini gösterdi.
Al sistemlerinin, deneylerin yanlış gittiği yerlerde sorun gidermeye yardımcı olma ve çalışan biyolojik ajanlar geliştirmek için gerekli olan "tasarla-yap-test et-öğren" şeklinde özetlenen geri bildirim döngüsünü hızlandırma yetenekleri özellikle endişe verici düzeyde. Eğer bunlar daha etkili hale getirilirse, ortaya çıkacak yeni Al araçları, biyolojik silah üretmek ve kullanmak için gereken bilginin bir kısmını, daha dinamik bir şekilde sağlayarak biyolojik silah üreticilerine inanılmaz derece destek sağlayabilir. Ancak bu tür aktörler, biyolojik silah geliştirmenin önünde genellikle takdir edilmeyen başka önemli engellerle karşılaşmaya devam edecek gibi duruyor.
Al, biyolojik riskleri başka şekillerde de etkileyebilir. Al araçlarındaki teknik hatalar, temel modellerin tehlikeli biyolojik bilgileri potansiyel kötü aktörlere aktarmasını kısıtlayamayabilir veya araştırmacıları beklenmedik olumsuz yan etkileri olan umut verici tıbbi ajanların peşinden gitmeye yanlışlıkla teşvik edebilir. Daha gelişmiş otomatik laboratuarlar oluşturmak için Al kullanmak, bu laboratuarları tarihsel olarak diğer karmaşık otomatik sistemleri rahatsız eden otomasyon risklerinin çoğuna maruz bırakabilir ve uzman olmayanların biyolojik ajanları hazırlamasını kolaylaştırabilir.
Al 'nin bio-teknoloji potansiyelinden faydalanmak isteyen şirketlere ve ülkelere yapılan yoğun yatırımlar, güvenlik yerine hıza öncelik veren rekabet dinamikleri yaratabilir. Bu riskler, ülkelerin bio-teknoloji ekosistemini şekillendiren çeşitli diğer faktörlerin de maliyetli kaza risklerini daha da artırdığı Çin ile ilgili olarak özellikle korkutucu düzeyde..
Bio-teknoloji ve yapay zekanın kesiştiği noktadaki felaket risklerinin önümüzdeki yıllarda tam olarak nasıl ve ne zaman gelişeceğini tahmin etmeye çalışmak, her iki disiplinin bilimsel ilerlemesine ilişkin belirsizlik göz önüne alındığında faydasız olacaktır. Yazı boyunca ortaya konan bütün belirsizliklere rağmen bir süredir başarıyla devam ettirdiğimiz “Yerli ve Milli Savunma Hamlesi” çerçevesinde artık bio-terör ve Al çalışmalarına da yer ayırmamız gerektiği açık.
