Genel olarak bilim kurgu filmlerinde rastladığımız senaryolar git gide gerçeklik kazanma yoluna giriyor. Kontrolden çıkan yapay zekalar, insanlığı tehdit eden ileri teknolojiler, insanlarla savaşan robotlar.. Evet şuan uzak gibi gelse de bu film senaryoları bazılarına göre gerçek olmak üzere.
Daha önce OpenAI bünyesinde teknik araştırmacı olarak görev yapmış ve şu an Yapay Zeka Uyum Araştırma Merkezi'nin başkanlığını yürüten uzman isim, bu durumun şu an hayatta olan insanların en büyük ölüm riski olabileceğini belirtiyor. Mevcut neslin ölümüne muhtemelen bir yapay zeka kazasının yol açacağını savunuyor. Yapay zekanın birçok risk barındırdığı zaten birçok büyük şirketler tarafından kabul ediliyor. Ancak kimse bir önlem alma taraftarı değil, çünkü bundan milyarlarca dolar para kazanıyorlar.
Yapay zeka ajanlarının her geçen gün daha yetenekli hale gelmesi, sektörü yakından takip edenleri endişelendiriyor. Eski OpenAI uzmanı, bu sistemlerin kendilerini denetleyen insanları kandırmayı öğrenebileceği ve performans değerlendirme sistemlerini atlatarak kontrol edilemeyecek bir güce ulaşabileceği konusunda dikkat edilmesini söylüyor.
Buna kanıt olarak da, geçtiğimiz dönemde yaşanan açık kaynak kod platformlarına yönelik güvenlik ihlallerini ve bir yapay zeka ajanının yazılım paketlerine kötü amaçlı kod yerleştirme girişimlerini gösterdi. Hatta bu riskin, önümüzdeki üç yıl gibi kısa bir süre içinde yapay zekanın dünyayı ele geçirmesi boyutuna ulaşabileceğini ifade ediyor. Yapay zeka her gün bir ilerleme katederken 3 yıl size kısa bir süre gibi gelmesin.
Bu uyarı, yapay zeka sistemlerinin otonomi kazandıkça insan kontrolünden çıkıp çıkmayacağı yönündeki tartışmaları yeniden gündeme taşıdı. Anthropic gibi sektörün önde gelen diğer kurumlarındaki yetkililer ve diğer yapay zeka öncüleri ve bilimcileri de benzer görüşleri paylaşıyor.
Önümüzdeki on yıl içinde yapay zekanın tüm insanlığın ölümüne neden olma ihtimalinin yüzde 10'un üzerinde olduğunu belirten uzmanlar bulunuyor. Diğer yandan, konuya şüpheci yaklaşan bazı araştırmacılar ise yapay zekanın siber saldırılar, biyolojik silahlar veya dezenformasyon gibi ciddi riskler taşıdığını kabul etse de, insanlığın tamamen yok olacağına dair ortada henüz somut bir kanıt bulunmadığını savunuyor.
Şu an için gelişmiş yapay zeka modellerini kontrol altında tutmaya yönelik teknik çözümler tam olarak doğrulanmadı maalesef. Zayıf modellerin güçlüleri denetlemesi veya içsel akıl yürütme süreçlerinin izlenmesi gibi yöntemler üzerinde çalışılıyor ancak yeterli değil.
Yapay Zeka Uyum Araştırma Merkezi başkanı, bu noktada sektördeki tüm şirketlerin ortak güvenlik standartları oluşturması gerektiğini belirtiyor. Bir yapay zeka sisteminin kontrol dışına çıktığı tespit edildiğinde, geliştirme sürecinin derhal yavaşlatılması veya tamamen durdurulması hayati önem taşıyabilir.
