OpenAI'dan yapay zeka içeriklerine görünmez filigran hamlesi. ChatGPT ve Codex metinlerine eklenen filigran AB Yapay Zeka Yasası'na uyum için geliyor. Sistem metindeki kelime seçimlerini küçük ölçüde değiştirerek tespit edilebilir bir örüntü oluşturuyor. Filigran metin kopyalandığında da varlığını koruyor. OpenAI textGrain yöntemi için teknik rapor yayımladı. Uygulama önümüzdeki haftalarda AB'de devreye alınacak.
OpenAI'dan Yapay Zeka İçeriklerine Görünmez Filigran Hamlesi
OpenAI, Avrupa Birliği Yapay Zeka Yasası'na uyum kapsamında ChatGPT ve Codex tarafından oluşturulan metinlere görünmez filigran eklemeye başlayacak. Sistem, metindeki kelime seçimlerini değiştirerek yapay zeka tarafından oluşturulan içeriklerin tespit edilmesini sağlayacak. Şirket, uygulamanın önümüzdeki haftalarda devreye alınacağını açıkladı.
AB Yapay Zeka Yasası ve Şeffaflık Kuralları
AB Yapay Zeka Yasası'nın 2 Ağustos'ta yürürlüğe giren şeffaflık kuralları, yapay zeka şirketlerinin yapay zeka tarafından oluşturulan içerikleri diğer sistemler tarafından tespit edilebilecek şekilde işaretlemesini gerektiriyor. Bu düzenleme, yapay zeka tarafından üretilen içeriklerin ayırt edilebilmesini ve sorumlu kullanımını sağlamayı amaçlıyor.
OpenAI, filigran uygulamasının önümüzdeki haftalarda tüm planlardaki uygun ChatGPT ve Codex kullanıcılarına sunulacağını, ancak uygulamanın yalnızca AB'de geçerli olacağını belirtti. OpenAI API'sini dünyanın herhangi bir yerinde kullanan geliştiriciler ise belirli modeller için bu özelliği bugünden itibaren etkinleştirebilecek. Ancak özellik, API tarafında varsayılan olarak kapalı olacak. Şirket, uygulamanın ilk aşamada dünya genelinde varsayılan bir özellik haline getirilmeyeceğini açıkladı.
Filigran Nasıl Çalışıyor
Filigran, metin üzerinde görülebilen bir sembol şeklinde değil, modelin kelime seçimlerini küçük ölçüde değiştirerek çalışıyor. Bu değişiklikler, okuyucular tarafından görülemeyen ancak özel bir tespit sistemi tarafından belirlenebilen bir örüntü oluşturuyor. Filigran metnin kendisindeki kelimelere işlendiği için metin kopyalanıp yapıştırıldığında da varlığını koruyor.
OpenAI, filigranın kullanıcıyı tanımlamadığını ve özellik etkinleştirildiğinde modellerin performansında anlamlı bir değişiklik gözlemlemediğini belirtti.
textGrain Yöntemi ve Teknik Rapor
OpenAI, duyuruyla birlikte "textGrain" adı verilen yönteme ilişkin bir teknik rapor da yayımladı. Pennsylvania Üniversitesi ve Yale Üniversitesi'nden araştırmacıların da katkıda bulunduğu raporda, bir cümleyi tamamlamak için sonraki kelime tahminlerinin gizli bir anahtar kullanılarak nasıl sıralandığına ilişkin bir örnek yer alıyor. Bu tür yüzlerce küçük değişikliğin bir araya gelmesiyle tespit sistemi, yalnızca metni ve ilgili anahtarı kullanarak içeriğin yapay zeka tarafından oluşturulduğunu belirleyebiliyor.
Metin Düzenlendiğinde Filigran Kaldırılabiliyor
OpenAI'nin testleri, metnin düzenlenmesi halinde filigranın tespit edilmesinin zorlaşabildiğini gösteriyor. Şirketin gerçekleştirdiği testlerden birinde, kelimelerin yüzde 10'unun eş anlamlılarıyla değiştirilmesi, tespit oranını yaklaşık yüzde 92'den yüzde 66'ya düşürdü. OpenAI ayrıca kısa metinlerin, matematik sorularına verilen yanıtların ve çevrilmiş metinlerin tespit edilmesinin daha zor olduğunu belirtti.
Tespit Aracına Sınırlı Erişim
Şirket, bu sınırlamalar nedeniyle tespit aracına ilk aşamada yalnızca onaylanmış araştırmacılar ve uzman kuruluşların erişebileceğini açıkladı. OpenAI, bu kuruluşların sistemin güvenilirliğini ve sorumlu kullanım alanlarını değerlendirmesine yardımcı olacağını belirtti.
Filigranın Sınırlamaları
OpenAI, filigranın bulunmamasının, metnin insan tarafından yazıldığını kanıtlamadığını vurguladı. Bunun nedenleri arasında metnin çok kısa olması, yoğun biçimde düzenlenmiş olması veya başka bir şirketin yapay zeka sistemi tarafından oluşturulması yer alabiliyor. Şirket, filigranların "bir metnin bir bölümünün OpenAI sistemi tarafından oluşturulduğunu veya işlendiğini" gösterebileceğini, ancak metnin ne kadarının insan tarafından oluşturulduğunu, düzenlendiğini veya şekillendirildiğini ortaya koyamayacağını belirtti.
Yapay Zeka İçeriklerinin Tespiti Neden Önemli
Yapay zeka tarafından oluşturulan içeriklerin tespit edilmesi, birçok açıdan büyük önem taşıyor. Özellikle dezenformasyon, akademik sahtekarlık ve telif hakkı ihlalleri gibi konularda yapay zeka içeriklerinin ayırt edilebilmesi kritik bir ihtiyaç olarak öne çıkıyor. AB Yapay Zeka Yasası'nın şeffaflık kuralları da bu ihtiyaca yanıt vermeyi amaçlıyor.
Ancak uzmanlar, filigran teknolojisinin tek başına yeterli olmadığını ve metin düzenleme gibi basit yöntemlerle filigranın etkisiz hale getirilebileceğini belirtiyor. Bu nedenle yapay zeka içeriklerinin tespitinde çok katmanlı bir yaklaşımın benimsenmesi gerektiği vurgulanıyor.
Diğer Yapay Zeka Şirketleri Ne Yapıyor
OpenAI'nin filigran hamlesi, yapay zeka sektöründe içerik şeffaflığı konusunda atılan önemli adımlardan biri olarak değerlendiriliyor. Google, Microsoft ve Anthropic gibi diğer büyük yapay zeka şirketlerinin de benzer düzenlemelere uyum sağlaması bekleniyor. AB Yapay Zeka Yasası'nın şeffaflık kuralları, birlik üyesi ülkelerde faaliyet gösteren tüm yapay zeka şirketlerini kapsıyor.
Kullanıcılar İçin Ne Anlama Geliyor
ChatGPT ve Codex kullanıcıları için filigran uygulaması, metinlerin görünmez bir şekilde işaretlenmesi anlamına geliyor. Kullanıcılar bu değişikliği doğrudan fark etmeyecek, ancak yapay zeka tarafından oluşturulan metinler özel tespit sistemleri tarafından belirlenebilecek. Bu durum, özellikle yapay zeka içeriklerinin kullanımı konusunda şeffaflık arayan kurumlar ve araştırmacılar için önemli bir gelişme olarak öne çıkıyor.