Kısa bir süre önce, OpenAI’ın ChatGPT tarafından yazılan metinleri yüksek bir doğrulukla tespit edebilecek bir araç üzerinde uzun süredir çalıştığı ortaya çıktı. Buna rağmen firma, metin filigranlama konusundaki araştırmalarını ve tespit yöntemini neden şimdiye kadar yayınlamadığı konusunda bazı açıklamalar yaptı.
CHATGPT İÇİN FİLİGRAN GELİYOR
Aktarılan bilgilere göre, ilgili yapay zeka filigranı esasında bir yıldır hazır durumda, ancak bugüne kadar gün yüzüne çıkarılmadı. OpenAI, "Ekiplerimiz, alternatifleri araştırırken göz önünde bulundurmaya devam ettiğimiz bir metin filigranlama yöntemi geliştirdi" şeklinde bir açıklama yaparak, sınıflandırıcılar ve meta veriler de dahil olmak üzere çok sayıda çözüm üzerinde çalıştıklarını ve geliştirdikleri yöntemin oldukça doğru sonuçlar (yüzde 99,9) verdiğini belirtti.
Ancak, bu yüksek performansa her zaman ve her durumda ulaşılamıyor. Metin üzerinde çeviri sistemleri kullanmak, başka bir üretici modelle yeniden ifade etmek veya modelden her kelime arasına özel bir karakter eklemesini ve ardından bu karakteri silmesini istemek gibi belirli tahrifatlar sonucunda performans düşüyor. OpenAI, bu performans düşüşlerini gidermeye çalışırken, neden şimdiye kadar filigran aracını kullanıma sunmadığını da açıkladı. Firma, metin filigranının bazı grupları orantısız bir şekilde etkileyebileceğinden endişe duyduklarını belirtti.
Blog yazısına göre, OpenAI bu riskleri değerlendiriyor. Şirket ayrıca görsel-işitsel içerik için kimlik doğrulama araçlarına ağırlık vereceğini de söylüyor. Metin filigranı için geliştirmeler tamamlandığında ise araç hizmete sokulabilir. Ancak bunun için henüz bir takvim belirlenmiş değil. Şirket, "bazı grupları orantısız bir şekilde etkileme" riskinin yanı sıra muhtemelen gelir kaybı yaşama olasılığını da değerlendiriyor.
