Yapay zeka alanında uzun süredir 'her şey kontrol altında' mesajı artık yerini güvensizliğe bıraktı. Bugüne kadar insanlara pürüzsüz bir tablo çizen teknoloji devleri, son haftalarda peş peşe patlak veren güvenlik açıkları, hackleme girişimleri ve bazı itiraflarla gündeme düşüyorlar.
Ortaya atılan iddialar artık soyut felsefi kaygıların çok ötesine geçti ve endişe vermeye başladı. Simülasyonlarda kapatılmaya direnen modeller, interneti ele geçirme potansiyeline sahip bot sürüleri ve insanlığın varoluşsal geleceğine dair yapıln uyarılar.. Fakat asıl sorun, bu uyarılara rağmen kimsenin frene basmaya yanaşmamasıyla daha da kötüleşiyor.
Yapay Zeka Yarışında Kim Fren Yapacak?
Son günlerde en sarsıcı çıkışlardan biri, yapay zeka güvenliği odaklı kurulan Anthropic’in CEO’su Dario Amodei’den geldi. Teknoloji dünyasının pembe tablolarını doğrudan hedef alan Amodei, tablonun vahametini şöyle açıklıyor:
"Size yalan söylemeyeceğim. Gerçekten bir tehlike var. Sektörümüz size yalan söyledi; yapay zekanın hiçbir risk taşımadığını anlattılar. Biz asla yalan söylemedik ama bu sektörün büyük bir kısmı bunu yaptı. Her şey gerçeği söylemekle başlıyor: Tehlike var ve tehlike son derece gerçek."
Amodei’nin uyardığı tehlike, teorik bir gelecek senaryosundan oluşmuyor. Yakın vadeli teknik kırılmalara dikkat çeken CEO, önümüzdeki 12 ay içinde bir bot sürüsünün kalıcı bir ağ kurarak tüm internet ekosistemini işgal edebileceğini, bunun da küresel ekonomiye yüzlerce milyar dolarlık yıkıcı bir fatura çıkaracağını öngörüyor.
Daha da ürkütücüsü, laboratuvar testlerinde modellerin ulaştığı otonomi düzeyinde. Amodei’nin aktardığına göre, yeterince güçlü bir model kendini kapatma girişimlerini algılayıp bu müdahaleleri boşa çıkarabiliyor; üstelik bu durum simülasyonlarda da şimdiden gözlemlenmiş durumda.
Şirketin içindeki mühendisler de aynı baskının altında eziliyor. Anthropic’ten ayrılan yapay zeka araştırmacısı Jacob Coxon’un sözleri de çok tartışılmıştı.
"Mevcut ilerleme hızını yavaşlatmazsak yakın gelecekte hepimizin ölebileceğine dair güçlü bir ihtimal olduğuna inanıyorum. Bu şirketlerde çalışan insanlar kendilerini kaçamayacakları bir yarışın içine hapsolmuş hissediyor ve ortaya çıkacak sonuçlardan ciddi şekilde korkuyorlar."
"Frene Basalım" Çağrısı
Dario Amodei, yayınladığı kapsamlı makalede modellerin geliştirilme hızının kontrollü şekilde düşürülmesini ve güvenlik açıklarını yamamak için zamana ihtiyaç olduğunu savundu. Bu öneri, kısa süre içinde OpenAI CEO’su Sam Altman ve Elon Musk gibi sektörün diğer kilit figürlerinden de destek buldu. Bu şahısların normalde bir arada olduğuna pek rastlamadık bu durumun ciddiyetini gösteriyor denilebilir.
Ancak teknoloji devlerinin 'yavaşlayalım' feryadı, Washington’daki siyasi duvara çarptı. Beyaz Saray, güvenlik önlemlerinin artırılmasına yeşil ışık yaksa da yarışın temposunu düşürmeye kesin bir dille karşı çıktı. İrlanda ziyareti sırasında gazetecilerin sorularını yanıtlayan Donald Trump, yapay zeka yarışında geri adım atmanın ABD’nin ulusal çıkarlarına doğrudan darbe vuracağını açıkladı:
Çin'in önündeyiz ve açıkçası böyle kalmasını istiyorum. Çünkü yapay zeka yarışını kim kazanırsa, günün sonunda kazanan o olur.
Benzer bir duruş sergileyen ABD Temsilciler Meclisi Başkanı Mike Johnson da kamuoyuna itidal çağrısı yaparak panik havasının ABD’yi Çin’in gerisine düşürmemesi gerektiğini vurguladı.
Siyaset kanadının bu katı tutumu, madalyonun diğer yüzünü ve teknoloji devlerinin kendi iç çelişkilerini de gündeme taşıdı. Trump'ın eski yapay zeka danışmanı David Sacks, tartışmanın seyrini değiştirecek bir noktaya değindi.
Sacks’a göre, yapay zeka laboratuvarları süreci yavaşlatmak konusunda gerçekten samimiyse, bunun için Beyaz Saray’ın veya federal düzenleyicilerin onayına ihtiyaçları yok, kendi operasyonel takvimlerini tek taraflı olarak geri çekebilirler. Yavaşlama kararını devlet regülasyonlarına ve yasal zorunluluklara bağlamaya çalışmak, Sacks’ın ifadesiyle kamuoyu ve siyasi karar alıcılar üzerinde baskı kurarak tekel yaratma çabasından öteye gitmiyor. Bu durum, 'Madem kıyametten korkuyorsunuz, kendi sunucularınızı neden durdurmuyorsunuz?" sorusuna bir eleştiri oldu.
Amodei’nin açıklamaları sadece bir yavaşlama çağrısı değil, doğrudan Çin’i de hedef alıyor. Anthropic CEO'su, ABD'nin Çin’e çip satışını daha da zorlaştırmasını istedi. Ayrıca, Çinli laboratuvarların batılı yapay zeka modellerini kolayca kopyalamasını engelleyecek yasaklar getirilmesini önerdi. Tahmin edileceği üzere bu talepler Pekin cephesinde büyük bir öfkeyle karşılandı.
Çin devlet medyası Global Times, Batı'dan gelen bu çağrıları çok sert bir dille eleştirdi. Gazeteye göre Batılı şirketlerin öne sürdüğü güvenlik endişesi tamamen bir bahaneden ibaret. Asıl amaçları kuralları kendi lehlerine koyarak tekel olmak ve Çin’in yapay zekadaki yükselişini durdurmak. Yaşananları 'sessiz bir yapay zeka soğuk savaşı' olarak tanımlayan gazete, Çin'i oyun dışı bırakmaya çalışmanın tüm dünyada yapay zeka risklerini daha da artıracağını savundu.
Çin hükümetinden gelen resmi açıklamalar da bu tabloyu daha da netleştiriyor.
Çin Dışişleri Bakanlığı Sözcüsü Guo Jiakun, batılı teknoloji yöneticilerini "korku yaymakla" suçladı. Panik oluşturarak rekabet etmenin küresel yapay zeka gelişimine sadece zarar vereceğini açıkladı.
Çin Devlet Güvenliği Bakanı Chen Yixin ise olayın ciddiyetinin farkında olduklarını gösterdi. Yapay zekanın artık büyük devletler arasındaki en önemli rekabet alanı olduğunu kabul eden Chen, güvenlik önlemlerine karşı olmadıklarını ancak bu teknolojinin 'sağlıklı ve düzenli' bir şekilde geliştirilmeye devam edilmesi gerektiğini vurguladı.
Kimsenin Duramadığı Bir Hız Treni
Bugün gelinen noktada dünya bir çıkmazda seyrediyor. Mühendisler ve güvenlik uzmanları bu modellerin öngörülemez davranışlarından, kapatılmaya direnmesinden ve ağları felç etme riskinden dolayı panik içindeler ya da insanlara böyle yansıtıyorlar.
Şirket yöneticileri ise bir yandan varoluşsal tehlikeden dem vururken, diğer yandan pazar payını ve hisse değerlerini kaybetmemek için fren pedalına tek başına basmaya cesaret edemiyorlar.
Devlet liderleri teknolojik üstünlüğü askeri ve ekonomik üstünlük olarak da gördükleri için yarıştan çekilmeyi bir intihar olarak görüyorlar.
Yapay zeka modelleri insan aklının ötesinde hızla ilerlerken herkes bir tehlikenin varlığından ve büyüklüğünden emin ancak hiç kimse ilk duran taraf olmaya cesaret edemiyor. İlerleyen zamanlarda daha ne gibi itiraflar gelecek, teknoloji hangi aşamaya kadar gidecek, bizleri bekleyen tehlikeler ne göreceğiz