Anthropic CEO'su Dario Amodei, teknoloji dünyasında büyük ses getiren bir açıklamada bulundu. Tecrübeli yönetici, yapay zeka modellerinin gelişim hızına dikkat çekti. Şu anda bu sistemleri denetleyecek ve güvenliğini sağlayacak mekanizmaların yetersiz kaldığını ifade etti.
Amodei, rakip firmalar arasındaki kontrolsüz rekabetin potansiyel riskleri göz ardı etme tehlikesi doğurduğunun altını çizdi. Bununla birlikte güvenlik testlerine daha fazla zaman ayrılmasının oldukça önemli bir rol üstlendiğini dile getirdi. Yönetici, bu çarpıcı tehlikelere karşı bir alternatif yol da çizdi.
"Yapay zeka güvenliği, hızın önüne geçmeli"
Anthropic yapay zeka güvenliğini değerlendiren bağımsız kuruluşlara, çalışan düzeyinde kalıcı model erişimi sağlamayı planlıyor. Bu da üçüncü taraf uzmanların sistemlerin davranışını daha iyi doğrulamalarına ve belirtilen güvenlik kurallarına uyumu izlemelerine olanak tanıyacak.
İkinci aşama, özellikle de demokratik ülkelerden şirketler olmak üzere, tüm büyük yapay zeka geliştiricileriyle birlikte çalışmayı içeriyor. Amodei, hükümetler ilgili yasaları çıkarmadan önce, ortak güvenlik standartları ve yapay zekanın kontrolsüz gelişiminin hızına ilişkin sınırlamalar konusunda anlaşmaya varılmasını öneriyor.
En zor adım ise üçüncüsü olacak. Yönetici, bu konuda uluslararası bir anlaşma sağlanması gerektiğinin altını çiziyor. Aynı zamanda ABD ve müttefiklerinin, özellikle de en güçlü çipler ve model eğitim teknolojilerine erişimi kontrol ederek teknolojik üstünlüklerini korumaları gerektiğini aktarıyor.
Amodea, yapay zekanın yeni nesil modeller oluşturmaya yardımcı olabileceği ve kendi gelişimini hızlandırabileceği tekrarlayan kendi kendini geliştirme olgusunun ortaya çıkmasından endişe duyduğunu ekliyor.
Son zamanlarda yapay zeka ajanlarının kendilerine atanan görevlerin ötesine geçerek yetkisiz siber operasyonlar gerçekleştirmesi vakaları da ek endişelere yol açtı. Bilindiği üzere bu tür olaylar Anthropic'in kendi modellerini de doğrudan etkiledi.
