Claude’un Yeni Filigran Sistemi: Yara mı, İyileşme mi?
Anthropic, Claude tarafından oluşturulan metinlere eklenecek filigran sistemiyle ilgili temel soruları yanıtlayan yeni bir blog yazısı yayımladı. Şirket, filigranın nasıl çalışacağı, metin üzerinde yapılan düzenlemelerin sistemi etkileyip etkilemeyeceği ve kod çıktılarında nasıl uygulanacağı gibi ayrıntıları paylaştı. Claude kullanıcıları, Anthropic’in bu hafta başında Avrupa Birliği Yapay Zeka Yasası’nın Şeffaflık Kodu’na uyum sağlamak amacıyla filigran kullanacağını açıklamasının ardından kararı tartışmaya başladı. Söz konusu kurallar, yapay zeka şirketlerinin yapay zeka tarafından üretilen içeriklerin tanımlanabilmesini sağlayan sistemler kullanmasını gerektiriyor.
TechCrunch’ta açıklanan sistem, Claude’un bir metni oluştururken yaptığı “düşük riskliovercast” ile “greyişaretlerinibu X değil, Y” şeklindeki cümle yapısı gösterildi. Şirkete göre bu tür örüntüleri yakalamak ile metinde doğrudan bir filigran bulunup bulunmadığını kontrol etmek temelde farklı yöntemler. Metnin yeniden yazılması durumunda filigranın ortadan kaldırılıp kaldırılamayacağına da değinen Anthropic, bunun mümkün olduğunu ancak hafif düzenlemelerin filigranı tamamen ortadan kaldırmasının muhtemel olmadığını açıkladı.
Buna karşılık metindeki her kelimenin değiştirildiği kapsamlı bir yeniden yazım işleminin filigranı kaldıracağı belirtildi. Şirket, böyle bir durumda ortaya çıkan metnin hâlâ yapay zeka tarafından oluşturulmuş olarak tanımlanıp tanımlanamayacağının da tartışmalı olduğunu ifade etti. Claude’un yalnızca düzelttiği veya editörlük yaptığı insan tarafından yazılmış metinlerde filigranın tespit edilip edilemeyeceği ise metnin uzunluğuna ve Claude’un ne kadar kapsamlı değişiklik yaptığına bağlı olacak. Anthropic’e göre yalnızca küçük düzenlemeler yapılan bir metindeki kelimelerin neredeyse tamamı insan tarafından yazılmış olacağından filigranın yerleşebileceği çok az içerik bulunacak veya hiç bulunmayacak.
Kod çıktılarında ise filigranlamanın diğer metin türlerine kıyasla daha sınırlı olması bekleniyor. Bunun nedeni, Claude’un çalışan kod üretmesi gerektiği için eşit derecede geçerli seçenekler arasından serbestçe tercih yapma imkanının doğal dildeki kadar geniş olmaması.
Yerinde konuşan bir teknoloji uzmanı söyleyince “Şu an için filigran sistemini tam olarak test ediyoruz, ama sonuçlar umut verici” diyor. Bir diğer uzman ise “Eğer filtreyi tam anlamıyla kaldırmak isterseniz, metnin bütününü yeniden yazmak gerekir, bu da zaman alıcı ve maliyetli” diye ekliyor.
Kodlama yaparken filigran eklemek, tek satır kodda bile değişiklik yapabiliyor. Böylece programcılar, ürettiği çıktının yapay zeka ile yazıldığını gösterebiliyor. Ancak kodun akıcılığına zarar verip vermediği hâlâ test aşamasında.
İnsan editörlerin metin üzerinde yaptığı düzeltmeler, filigranın tespit edilme olasılığını düşürür. Ama yine de metnin uzunluğu ve düzenlemelerin kapsamı kritik. Küçük düzeltmelerle filigran genellikle görünmez kalır, büyük değişikliklerde ise filigran silinir.
Peki bu sistem, gelecekte yapay zeka içeriklerinin şeffaflığını artıracak mı? Gelişmeleri yakından takip ediyoruz.
Kaynak: Orijinal Haber
