Google tarafından geçen yıl tanıtılan ve indirme sayısı 20 milyonu geçen ilk sürümün ardından geliştirilen yapay zekâ modeli EmbeddingGemma 2; metin odaklı yapı haricinde görsel, ses, video ve kod içeriklerini tek bir vektör alanında birleştiriyor.
EmbeddingGemma 2 geniş bağlan penceresine sahip
Bu yeni yapay zekâ modeli Gemma 4 mimarisi üzerine inşa edildi. 740 milyon parametre büyüklüğüne sahip olan açık kaynaklı bu model ticari kullanıma uygun Apache 2.0 lisansı ile geliştiricilere sunuldu.
Yeni yapay zekâ modeli sesli bir not üzerinden belirli bir video klibini bulmayı veya metin sorgusuyla saatlerce süren ses kayıtları arasında arama yapmayı doğrudan kullanıcı cihazı üzerinde olanaklı kılıyor.
https://twitter.com/googlegemma/status/2107502533992464482?s=20
EmbeddingGemma 2 özelliklerini ayrıntılı incelediğimizde; metin, kod, ses ve görsel veri işleme performansıyla 1 milyar parametre altı modeller arasında lider konumda yer aldığı görülüyor.
Sahip olduğu modüler yapısı ile sadece metin odaklı senaryolarda 270 milyon parametreye kadar düşebilen sistem, isteğe bağlı görsel ve ses modülleri ile de tam destek sağlıyor.
Depolama tasarrufu sağlanmış
Depolama unsuru açısından bakıldığında Matryoshka Temsil Öğrenimi (MRL) teknolojisini kullandığını aktaracağımız bu model; 768 boyutlu çıktı vektörlerini 512, 256 veya 128 boyutlarına kadar küçültebiliyor. Bu mimari yapının ise yerel vektör veri tabanlarında ve RAM kullanımında 6 kata kadar depolama tasarrufu elde edilmesini sağladığını vurgulayalım.
EmbeddingGemma 2 yapay zekâ modeli cihaz içi performans optimizasyonunda yüksek verimlilik sunuyor. Bir önceki sürüme göre 4 kat daha fazla veri işleme kapasitesi ise 8K token genişletilmiş bağlam penceresiyle mümkün kılınmış.
Sistem bu sayede tek seferde 5.5 dakikalık ses kaydını, 29 fotoğrafı veya 58 video karesini doğrudan cihaz üzerinde işleyebiliyor.
Düşük bellek tüketimi sunuyor
Bellek kullanımında da optimize edilen yeni yapı; kuantize edilmiş versiyonuyla bir Google Pixel 11 Pro cihazında metin süreçleri için yaklaşık olarak 191 MB ve tam multimedya modeli içinse 567 MB aktif RAM tüketiyor.
MTEB Code testlerinde puanını 68.76 seviyesinden 78.68 değerine çıkaran EmbeddingGemma 2 yapay zekâ modelinin Hugging Face, Kaggle ve LiteRT platformları üzerinden erişime açıldığını aktaralım.