OpenAI, tehlikeli siber güvenlik yetenekleri yüzünden çok yakında piyasaya sürülecek yapay zeka modeli Astra üzerindeki çalışmaları geçici olarak askıya aldığını duyurdu. Merakla beklenen model, şirket içi engellere takılarak belirsiz bir süreliğine beklemeye alındı.
Astra siber güvenlik engeline takıldı
OpenAI, Astra adlı yapay zeka modeli için daha katı gereksinimleri uygulamayı planlıyor. Bu belge, büyük ölçekli siber güvenlik riskleri oluşturma potansiyeline sahip ya da güvenlik açıklarını otomatik olarak bulup istismar etmeye yardımcı olan modeller için ek güvenlik önlemleri vurguluyor.
Kritik seviye, bir modelin korunan kritik sistemler için bağımsız olarak sıfır gün açıklarını tespit edebilme ve oluşturabilme veya insan müdahalesi olmadan karmaşık siber saldırıları baştan sona gerçekleştirebilme yeteneği olarak belirtiliyor. OpenAI'a göre bu seviyeye ulaşabilme yeteneği, Astra çevresindeki güvenlik önlemlerinin artmasına yol açıyor.
OpenAI, ek koruma önlemleri getirene kadar model üzerinde aktif çalışmalara devam etmeyi planlamıyor. Astra, ağa ve harici araçlara erişimin sınırlı olduğu izole ortamlarda test edilecek.
OpenAI ayrıca özel olarak izole edilmiş ortamlarda izleme ve görev yürütme süreçlerini güçlendirmek istiyor. Buna ek olarak şirket, yapay zeka güvenliği konusunda uzmanlaşmış devlet kurumlarını ve kuruluşlarını da sürece dahil etmeyi planlıyor.
Astra henüz resmi olarak duyurulmadı
Astra yapay zeka modeli henüz resmi olarak tanıtılmadı. Fakat OpenAI bir sonraki büyük modeli hakkında bazı ayrıntıları zaten açıkladı.
OpenAI yakın zamanda yaptığı bir çalışmada, sistemin matematik ve teorik bilgisayar bilimlerinde on açık uçlu problemi çözebildiğini belirtti. Şirkete göre bu görevlerin önceki modelin API ücretleri kullanılarak tamamlanmasının maliyeti yaklaşık 2.000 dolardı.