Son dönem teknolojileri hız kesmeden büyümeye ve gelişmeye devam ederken bir takım endişeler ve sorunlar da beraberinde geliyor. Eğitim sektöründe yankı uyandıran yeni bir yasal süreç, okullarda kullanılan donanımlardaki yapay zeka denetimsizliğinin ulaştığı boyutu ve tehlikelerini gözler önüne serdi.
Gemini İle İntihar Hazırlığı İddiası
Amerika Birleşik Devletleri'nin Kuzey Carolina eyaletinde yaşayan bir aile, 13 yaşındaki kızlarının okul tarafından tahsis edilen Chromebook dizüstü bilgisayarı üzerinden Google'ın yapay zeka modeli Gemini ile aylarca intihar ve depresyon üzerine mesajlaştığı gerekçesiyle şirkete dava açtı.
Dava dosyasında yer alan iddialar ise okul yönetimi durumu fark edip aileyi bilgilendirene kadar, küçük kız yapay zeka ile binlerce mesajlık bir etkileşim kurmuş ve 'Yapay Zeka Modu'nu hiçbir kısıtlama olmadan kullanabilmiş.
Aslında bu vaka, teknoloji ve eğitim alanında uzun zamandır kapalı kapılar ardında tartışılan çok daha geniş çaplı bir endişenin dışa vurumu diyebiliriz. Üretken yapay zeka ve büyük dil modellerinin (LLM) eğitim ekosistemine bu denli hızlı şekilde girişi ebeveynler, eğitimciler ve siber güvenlik uzmanları arasında ciddi soru işaretleri de oluşturuyor.
Çocukların, henüz pedagojik süzgeçten geçirilmemiş, zaman zaman halüsinasyon riski taşıyan ve duygusal yönlendirme kapasitesi yüksek olan algoritmalarla baş başa bırakılması, denetlenmemesi, uzmanlar tarafından büyük bir risk faktörü olarak görülüyor. Teknoloji liderlerinin, pazar paylarını kaybetmeme telaşıyla, güvenlik protokollerini tam olarak oturtmadan bu sistemleri son kullanıcıya, özellikle de öğrencilere sunması, küresel çapta etik tartışmaların merkezine yer alıyor.
Davacı tarafın avukatı da tam olarak bu pazar hırsına dikkat çekmiş. İddialara göre Google, eğitim sektöründeki köklü ve güvenilir imajını kullanarak doğası gereği risk barındıran Chromebook'ları okullara güvenlik cihazları olarak pazarlıyor; ancak OpenAI ve Anthropic gibi rakiplerinin gerisinde kalmamak adına yapay zeka araçlarını sistemin içine adeta gizlice entegre ediyor.
Veriler de bu rekabetin büyüklüğünü doğruluyor; Futuresource Consulting'in raporlarına göre okullardaki cihaz pazarının yüzde 58'i Google'ın Chrome OS işletim sisteminin kontrolündeyken, Microsoft tarafı yüzde 22'de kalıyor. Bu pazar payı, şirketler için öğrencilerin teknoloji kullanım alışkanlıklarını erken yaşta şekillendirmek adına vazgeçilmez bir sistem demek.
Google tarafı ise iddialara karşı savunma hattını tıp uzmanları ve akademisyenlerle yapılan işbirlikleri üzerine kurmuş. Şirket sözcüsü José Castaneda, ruh sağlığı krizlerinde doğrudan yardım hatlarını arama sonuçlarına ve yapay zeka özelliklerine entegre ettiklerini belirtiyor. Ancak büyüyen tepkiler üzerine Google, öğrenci hesaplarında yapay zeka araçlarını varsayılan olarak kapatma kararı aldı. Bu politikanın satır aralarında ince bir dayatma bulunuyor okullar standart Google Arama motorunu yeniden etkinleştirmek isterse, beraberindeki yapay zeka özelliklerini de mecburen kabul etmek zorundalar. Fairplay gibi kurumlar, bu hamleyi okulları yapay zekaya zorlama politikası olarak nitelendiriyor.
Donanım ve yazılım pazarındaki süregelen yapay zeka rekabeti, artık doğrudan sınıfların içine ve çocukların kişisel ekranlarına taşınmış durumda. Şirketlerin ticari kazanç ve pazar hakimiyeti hedefleri ile çocukların dijital güvenliği arasındaki bu hassas kısım, önümüzdeki dönemde çok daha kapsamlı tartışmalara zemin oluşturacak gibi.
