OpenAI AB'de ChatGPT metinlerine görünmez filigran ekleyecek

Ne oldu

OpenAI, Avrupa Birliği'ndeki ChatGPT kullanıcıları için metin çıktılarına görünmez bir filigran ekleyeceğini duyurdu. Şirketin "textGrain" adını verdiği sistem, kelime seçimlerini ince bir örüntüyle şekillendiriyor; bu örüntü okuyucu tarafından fark edilmiyor ama bir dedektör tarafından tespit edilebiliyor. İşaret, gizli bir anahtarla kelime sırasını etkiliyor ve metin kopyalanıp başka bir yere yapıştırıldığında da kalıcı kalıyor.

Filigran, önce AB'deki tüm ChatGPT plan kullanıcılarına "gelecek haftalar içinde" açılacak; API üzerinden geliştiren firmalar ise özelliği dünya çapında isteğe bağlı olarak bugünden etkinleştirebiliyor, varsayılan ayar kapalı. Adım, 2 Ağustos'ta yürürlüğe giren AB AI Yasası'nın yapay zekâ şirketlerine ürettikleri içeriği işaretleme zorunluluğu getiren şeffaflık kurallarına dayanıyor.

OpenAI, sistemin sınırlarını da açıkça belirtti: kısa metinlerde, matematik cevaplarında ve çevrilen metinlerde tespit güvenilirliği düşüyor. Şirketin kendi verisine göre metnin yüzde 10'u eş anlamlı kelimelerle değiştirildiğinde tespit oranı yüzde 92'den yüzde 66'ya iniyor.

Markalar için ne anlama geliyor

AB'de ChatGPT ile üretilmiş metin kullanan markalar ve ajanslar için bu, içeriğin kaynağının görünmez biçimde izlenebilir hale geldiği anlamına geliyor — blog yazısı, ürün açıklaması veya reklam metni ister yayınlanmadan önce düzenlensin ister aynen kullanılsın, filigran kalabiliyor. Ancak OpenAI'nin kendi açıkladığı tespit sınırları (kısa metin, çeviri, yoğun eş anlamlı değişiklik) bu izlenebilirliğin mutlak olmadığını gösteriyor; AB pazarına içerik üreten ekiplerin bu filigranı bir gizlilik garantisi değil, hesap verebilirlik katmanı olarak görmesi gerekiyor.