OpenAI, Avrupa Birliği genelinde ChatGPT ve Codex modelleri tarafından üretilen metin ve kod içeriklerine insan gözüyle görülemeyen istatistiksel filigranlar eklemeye başlayacak. Bu uygulamanın amacı ise şeffaflık ve izlenebilirlik sağlamak olarak belirtiliyor.
OpenAI "textGrain" sistemini kullanacak
OpenAI tarafından geliştirilen textGrain sistemi kullanılarak modelin kelime seçimlerine istatistiksel bir sinyal eklenecek. Bu sinyal özel bir algılama yazılımı ile tespit edilebiliyor. Sistem metin uzunluğuna ve içeriğine göre %80'e kadar doğruluk sunabiliyor. Ancak kısa metinlerde ve matematiksel içeriklerde performansta düşüş olabileceği vurgulanıyor.
Üretilen metin kullanıcılar tarafından fark edilmese de OpenAI bünyesindeki tespit yazılımları aracılığı ile içeriğin yapay zekâ tarafından yazıldığı saptanabiliyor.
Öte yandan OpenAI, sistemin performansını “SynthID” gibi diğer yaklaşımlarla karşılaştırarak “eşit veya üstü” seviyede olduğunu iddia ediyor. Ancak ideal koşullarda güçlü performans ve günlük kullanımda ise güvenilir tespit garantisi verilmiyor.
Söz konusu damga; Avrupa Birliği'ndeki ChatGPT ve Codex metin çıktıları için varsayılan olarak etkin olmayacak. Müşteriler sadece belirli modellerde seçimde bulunarak uygulamayı etkinleştirebilecek.
Gizlilik koruması mevcut
Başlangıç olarak algılama yazılımına erişim onaylı araştırmacılar ve uzman kuruluşlar ile sınırlı olacak ve kullanıcı kimliği veya sohbet içeriği ortaya çıkmayacak. OpenAI ayrıca, bu teknolojiyi açık kaynak olarak sunmayı planlıyor. Böylelikle geliştirici grupları tarafından uyarlanabileceği kaydediliyor.
Avrupa Birliği Yapay Zekâ Yasası'nın 50. maddesi, yapay zekâ sağlayıcılarının ürettikleri metin çıktılarını makineler tarafından okunabilir şekilde işaretlemelerini zorunlu kılıyor.
Yasaya uyum için son tarih belirlendi
Mevcut yapay zekâ sağlayıcı şirketlere 2 Aralık tarihine kadar uyum süresi tanındı. İlk olarak Anthropic, Google ve Microsoft gibi diğer dev bir şirketlerin ardından OpenAI da bu adımla birlikte regülasyonlara tam uyum sağlamayı hedefliyor.