Yapay zeka alanı son yılların en kontrolsüz yükselişine doğru gidiyor her ne kadar yansıtılmasa da durum böyle. Anthropic, OpenAI ve Google gibi devler, liderliğini kimseye kaptırmamak için büyük mücadele veriyorlar ve milyarlarca dolarlık bütçelerle modellerini sürekli bir üst seviyeye taşımaya çalışıyor.
Bu mücadeleye baktığımızda insanlara yansıtılan kısım her şeyin kontrolde olduğu ve yapay zekanın hep hayatı kolaylaştırmak üzere olduğu öne çıkıyor ancak sektörün içinde gelen haberler hiç de kontrollü bir büyümenin varlığını doğrulamıyor. Bu baş döndürücü hızın insanlığın kontrol mekanizmalarını çoktan aştığı artık bir gerçeğe dönüşüyor.
Anthropic Çalışanının İtirafları Sarsıcı Oldu!
Teknoloji dünyasında OpenAI ve Claude modelinin geliştiricisi Anthropic bünyesinde tam üç yıl boyunca ön eğitim araştırmacısı olarak görev yapan Jacob Coxon, görevinden istifa ettiğini duyurdu. Jacob'un istifası sonrası X platformunda yapmış olduğu itiraflar ve açıklamalar kısa sürede büyük bir kitleye ulaştı 450 binden fazla etkileşim alarak adeta gündemin merkezine oturdu.
Coxon’ın paylaşımlarında öne çıkan en vurucu detay, hem OpenAI hem de Anthropic yönetimlerinin kamuoyunu bilinçli bir biçimde yanılttığı iddiası oldu. Eski kıdemli araştırmacı, iki dev kurumun da son derece sorumsuz davrandığını ve kendini sürekli optimize eden bir süper zeka geliştirmek için insanlığın geleceğini ortaya koyan pervasız bir kumar oynadıklarını savunuyor.
Geliştirilen bu sistemlerin gücünün hafife alınmaması gerektiğinin de altını çiziyor. Modellerin yakında her türlü dijital güvenliği delebilecek, tüm alanlarda bir gecede devrim yapabilecek ve bağımsız biçimde kaynak elde edebilecek süper insan yeteneklerine ulaşacağını söylerken işin korkutucu yanının ise bu ilerleme hızının asla yavaşlamaması olduğunu belirtti.
Bir başka iddialar ise yöneticilerin iki yüzlü tavırlarına yönelik oldu. Coxon, yapay zeka geliştiren kıdemli araştırmacıların ve şirket liderlerinin, bu modellerin on yılın sonuna kadar insanlığı yok edebileceği gerçeğine çok net biçimde inandıklarını aktarıyor.
Basın karşısına çıktıklarında aklı başında, güven veren ve kontrollü bir tablo oluşturan bu yöneticilerin, günün sonunda kapalı kapılar ardında ve şirket içi özel sohbetlerde derin bir korku ve panik içinde olduklarını aktardı.
Peki madem tehlikenin bu denli farkındalar, neden geliştirmeye aralıksız devam ediyorlar sorusuna ise Coxon bu çelişkiyi şirketlerin kurum içi psikolojilerini karşılaştırarak açıklıyor. Araştırmacıya göre OpenAI çatısı altında pek çok çalışan medeniyetin karşı karşıya olduğu varoluşsal riskleri henüz zihinsel olarak tam anlamıyla içselleştirebilmiş değil.
Anthropic ise risklerin ve tehdidin boyutunu çok net anlamış durumda; ancak şirket kendini durdurulamayan bir yarışın içinde kısılmış hissediyor. Başka hiçbir aktörün sorumlu davranmayacağına inandıkları için, felakete yol açabilecek olsa dahi süper zekaya ilk olarak kendilerinin ulaşması gerektiği görüşündeler.
Bu noktada eski meslektaşlarına ve laboratuvar araştırmacılarına seslenen Coxon, sektörün henüz zihnini ve mantığını tam olarak kavrayamadığı bir süper zeka takviyeli öğrenme sürecini başlatmasının mantıksızlığını sorguluyor. Çalışanları başlarını öne eğip her şey kendiliğinden oluyormuş gibi davranmak yerine, daha güvenli koşulları talep etmeleri konusunda uyarıyor.
Direk olarak sektörde çalışmış birisinin bu itirafları yapay zeka alanındaki o kötü varsayımları da tekrar alevlendirmiş durumda.
Uzmanların en çok üzerinde durduğu senaryolar ise şunlar: kendi kodunu yazabilen bir süper zekanın insan aklıyla geriye dönük denetlenemeyecek adeta bir 'kara kutuya' dönüşmesi. Aynı zamanda finans sistemlerinden enerji şebekelerine kadar tüm kritik altyapıları felç edebilecek siber saldırı kapasitesine erişmesi şeklinde.
Coxon’ın dikkat çektiği en somut uyarı atışlarından biri, açık kaynaklı yapay zeka modellerinin ve veri setlerinin merkezi sayılan Hugging Face platformuna yönelik son saldırılar oldu. Bu tür güvenlik açıkları ve siber tehditler, modellerin kötü niyetli aktörlerin elinde ne kadar tehlikeli silahlara dönüşebileceğini kanıtlar nitelikte.
Yalnızca laboratuvarların iyi niyetli uzlaşmalarının yeterli olmayacağı, küresel çapta bir yıkımı engellemek adına çok daha sert adımlar atılması gerekiyor. Bu adımların başında ise şirketlere ciddi ekonomik faturalar çıkarmak olsa bile, model geliştirme ve kapasite artırma çalışmalarına geçici yasaklar getirilmesi gerekli.
Yapay zekanın her geçen gün geliştiği ve daha ne kadar hangi aşamalara gelineceği öngörülemez bir gerçek. Bu alanda gerekli önlemlerin alınmadığı da son dönemlerde daha çok görülüyor. Gerekli önlemlerin alınmaması durumunda insanlığın kontrolü tamamen kaybedeceği yönünde iddialar ise her geçen gün kuvvetleniyor.
