Anthropic, Claude'un ürettiği metne görünmez filigran ekliyor

Anthropic, gelecek Claude modellerinin ürettiği metne görünmez bir filigran yerleştireceğini duyurdu. Şirketin 14 Ağustos'taki açıklamasına göre yöntem, birden fazla kelimenin eşit derecede uygun olduğu noktalarda modelin seçimini yönlendiren rastgelelik kaynağını değiştirmeye dayanıyor. Anthropic'in ifadesiyle, filigranlı bir yanıt okuyucu için filigransız olandan ayırt edilemiyor.

Şirket ayrıca bir filigran tespit API'si sunacağını, ayrıntıların üzerinde çalışıldığını belirtti. TechCrunch'ın aktardığına göre adım, Avrupa Birliği yapay zekâ mevzuatının şeffaflık uygulama kurallarına uyum kapsamında atılıyor ve aynı metni imzalayan diğer büyük model geliştiricilerinden de benzer uygulamalar bekleniyor.

Ne değişti

Filigran metnin kalitesini değiştirmiyor, ama her metinde eşit çalışmıyor. Anthropic'in kendi anlattığı sınırlar şöyle: kısa metinlerde desen oluşmadığı için filigran işe yaramıyor; tam doğruluk gerektiren kod çıktılarında etkisi asgari düzeyde kalıyor; metin hafifçe düzenlendiğinde filigran genellikle korunuyor, baştan yeniden yazıldığında kaybolabiliyor.

Şirket iki şeyin altını ayrıca çiziyor: filigran hangi yapay zekânın yazdığını söylemiyor ve kullanıcı kimliği taşımıyor. Yani çıktının kime ait olduğunu değil, makine tarafından üretilip üretilmediğini gösteren bir işaret.

Markalar için ne anlama geliyor

Metin tarafında bugüne kadar "bu yazıyı yapay zekâ mı yazdı" sorusunun teknik bir cevabı yoktu; piyasadaki tespit araçları tahmine dayanıyordu. Tespit API'si devreye girdiğinde bu soru ölçülebilir hale geliyor. Blog yazısı, ürün açıklaması, kurumsal metin veya basın bülteni teslim eden herkes için doğrudan sonuç doğuran bir değişiklik.

Pratikte üç şey öneriliyor. Birincisi, ajans ile müşteri arasındaki sözleşmelerde yapay zekâ kullanımının nasıl tanımlandığı netleşmeli — "yapay zekâ kullanılmayacak" maddesi artık denetlenebilir bir taahhüt. İkincisi, model çıktısını olduğu gibi teslim eden akışlar riskli hale geliyor; taslağı insan eliyle yeniden kurmak, filigranı gizlemek için değil, metin kalitesi için zaten doğru olan yöntem. Üçüncüsü, kurum içi metin üretiminde hangi aşamada hangi aracın kullanıldığının kayda geçmesi, sonradan gelen bir soruya cevap verebilmenin en ucuz yolu.