OpenAI, ChatGPT ve Codex'in çıktılarına görünmez filigran ekliyor

OpenAI, Avrupa Birliği'nde ChatGPT ve Codex modellerinin ürettiği metinlere görünmez filigran eklemek için hazırlıkları tamamlıyor. textGrain adlı bu yeni teknoloji, yapay zekanın kelime seçimlerini hafif değişiklikler yaparak istatistiksel bir desen oluşturacak. Bu desen, metin yapay zeka tarafından oluşturulmuş olup olmadığını sonradan tespit etmeye yardımcı olacak.

Filigran metni okurken veya kopyalarken görünmeyecek. OpenAI, bu aydan itibaren AB'de uygun ChatGPT ve Codex çıktılarına filigranlama başlatacak. API geliştiricileri dünya çapında bu özelliği seçebilecekler, ancak şu an varsayılan olarak devre dışı durumdadır.

Tespit etme gücü editlemeden etkileniyor

OpenAI'nin kendi testleri, filigranın ne kadar kolay zarar görebileceğini ortaya koymaktadır. Değiştirilmemiş 400 kelimelik metinlerde filigran yaklaşık %95 oranında tespit edilebilirken, 10% oranında kelime değiştirilmesi (eş anlamlı kelimelerle) bu oranı %66'ya düşürüyor. Kelimelerin %25'i değiştirilirse tespit oranı sadece %17'ye iniliyor.

Konu seçimi de önemli bir rol oynuyor. Matematik gibi konularda, modelin farklı kelime seçme özgürlüğü sınırlı olduğundan tespit başarısı daha düşük oluyor. OpenAI, filigranın kısa, editlenmiş veya tercüme edilen metinlerde güvenilir şekilde çalışmayabileceğini uyarıyor. Tespit edilen filigran da kimin metni yazdığını, hangi hesabın kullanıldığını veya içeriğin ne kadarının insan tarafından yazıldığını ortaya çıkarmıyor.

Neden önemli?

Yapay zekanın ürettiği içeriğin fark edilmesi, akademik dürüstlük, yayın alanında güvenilirlik ve telif hakkı tartışmaları açısından kritik. Bu teknoloji, öğrencilerin ve yazarların yapay zekadan faydalanıp faydalanmadığını anlaşılması için bir araç sunuyor. Bununla birlikte, filigranın sınırlılıkları göz önüne alındığında, bu tek başına yeterli bir çözüm değildir. OpenAI'nin yaklaşımı, bağlamsal bir adım teşkil ediyor ancak geliştiriciler ve editörler, bu teknolojiye tamamen güvenmesi yerine çok katmanlı doğrulama yöntemlerine ihtiyaç duyacaklardır.