Microsoft CEO'su Satya Nadella, gelişmiş yapay zeka modellerini kontrol altına almak için kritik bir çağrıda bulundu. Popüler sosyal medya platformu X'te (eski adıyla Twitter) paylaşılan bir makalede, şirketlerin bu sistemleri baştan itibaren potansiyel olarak tehlikeye atılmış sistemler olarak ele almaları gerektiğini vurgulandı.
"Otonom yapay zeka modellerine müdahale şart!"
Microsoft liderinin önerisi, yetkili kişilerin bir model bir görevi yerine getirirken onu duraklatmasına ya da kapatmasına izin verilmesini içeriyor. Satya Nadella bu özelliği "acil durum freni" olarak nitelendiriyor. Ayrıca bu tür kontrollerin, otonom sistemlerin uygun denetim olmadan hareket etme risklerini azaltabileceğini ileri sürüyor.
Tecrübeli yönetici, yapay zekaya acil fren uygulanması çağrısında bulunmanın yanı sıra AI teknolojilerinin "kara kutu" olarak ele alınmasını da eleştirdi. Bunun tavsiyeleri ve eylemleri, işleyişi hakkında şeffaflık olmaksızın kabul edilen ya da reddedilen bir sistem olarak nitelendirdi.
Nadella, bu senaryoyu değiştirmek için modeli görevlerini koordine eden mekanizmalardan ayırmayı ve güvenlik önlemlerini dış kontrol altında tutmayı tavsiye etti.
https://twitter.com/satyanadella/status/2108931348857827686
Microsoft yöneticisi ayrıca modellerin ilgili eylemlerini belgelemek için doğrulanabilir ve insan tarafından okunabilir kayıtların tutulmasını savundu. Bağımsız denetimler, olayların hızlı bir şekilde açıklanması ve doğrulanabilir veriler de yayınında belirtilen önlemler arasında yer alıyor.
Şirketlerin insan müdahalesini azaltarak görevleri yerine getirebilen yapay zeka ajanlarını kullanımını genişletmesiyle birlikte endişeler artıyor. Bu bağlamda Nadella, kuruluşların yalnızca tedarikçi garantilerine güvenmemelerini ve bu sistemlerin çalışması sırasında izleme ve müdahale etme yolları hazırlamalarını öneriyor.
