OpenAI, AB'de ChatGPT metinlerine filigran ekleyecek

OpenAI, 5 Ekim'de Avrupa Birliği'nde ChatGPT ve Codex'in ürettiği metinlere görünmez bir filigran eklemeye başlayacağını açıkladı. textGrain adı verilen sistem, AB Yapay Zekâ Yasası'nın 2 Ağustos'ta yürürlüğe giren şeffaflık kurallarına uyum için geliştirildi. Filigran önümüzdeki haftalarda AB'deki tüm ücretli ve ücretsiz paketlerdeki uygun kullanıcılara kademeli olarak açılacak.

textGrain, metne gizli karakter ya da etiket eklemiyor. Bunun yerine modelin kelime seçimlerini çok hafif biçimde yönlendirerek kelimelerin dağılımına istatistiksel bir desen yerleştiriyor. Okur bu deseni göremiyor; ancak gizli anahtarı elinde tutan bir dedektör metni tarayarak deseni yakalayabiliyor. Sinyal kelimelerin kendisinde yaşadığı için kopyala-yapıştır ile taşınan metinde de korunuyor. OpenAI filigranın kullanıcıyı tanımlamadığını, yalnız metnin bir yapay zekâ tarafından üretildiğini işaret ettiğini vurguluyor.

Yöntemin zayıf noktası açık: metin yeniden yazıldıkça iz siliniyor. OpenAI'ın paylaştığı verilere göre kelimelerin yüzde 10'u eş anlamlılarla değiştirildiğinde tespit doğruluğu yaklaşık yüzde 92'den yüzde 66'ya iniyor. Daha kapsamlı bir yeniden yazım ya da başka bir modelle parafraz yapıldığında bu oranın daha da düşmesi beklenir. Bu nedenle filigran, bir metnin yapay zekâ ürünü olduğunu kesin biçimde kanıtlayan bir araç değil, kötüye kullanımı zorlaştıran ve büyük ölçekli içerik çiftliklerini işaretleyen bir katman olarak görülmeli.

Bir görsele filigran gömmek için yüzlerce piksel var ve küçük değişiklikler gözle fark edilmiyor. Metinde ise her kelime anlam taşıyor; filigranı güçlendirmek için kelime seçimine fazla müdahale edilirse metnin kalitesi düşüyor. Bu yüzden metin filigranları, kalite ile tespit edilebilirlik arasında bir denge kurmak zorunda. textGrain bu dengeyi, birbirine yakın anlamdaki kelimeler arasındaki tercihleri hafifçe kaydırarak kuruyor.

Geliştiriciler için durum farklı. 5 Ekim'den itibaren dünyanın her yerindeki API kullanıcıları filigranı isterse açabiliyor, ancak AB'deki ChatGPT dağıtımı dışında varsayılan olarak kapalı. Bu da OpenAI'ın modelini kendi ürünlerinde kullanan şirketlerin, filigranı açıp açmama kararını kendilerinin vereceği anlamına geliyor. AB'de faaliyet gösteren ve yapay zekâyla içerik üreten şirketlerin ise kendi yükümlülüklerini ayrıca değerlendirmesi gerekiyor.

AB Yapay Zekâ Yasası, riske dayalı bir düzenleme. Genel amaçlı yapay zekâ modelleri ve bu modelleri kullanıcıya sunan şirketler için şeffaflık yükümlülükleri getiriyor. Bunların başında, yapay zekâyla üretilmiş ya da değiştirilmiş içeriğin makine tarafından okunabilir biçimde işaretlenmesi geliyor. Amaç, sahte haber, dolandırıcılık ve kitlesel yanıltma girişimlerinde yapay zekâ içeriğinin tespit edilebilmesi. Görsel ve seste bu işaretleme dosya bilgisine ya da piksellere gömülen filigranlarla görece kolay yapılıyor. Metinde ise işaretleme ancak kelime seçimlerinin kendisine gömülebiliyor; textGrain da bu yaklaşımı kullanıyor.

AB Yapay Zekâ Yasası, yapay zekâyla üretilmiş içeriğin makine tarafından okunabilir biçimde işaretlenmesini istiyor. Görsel ve ses için filigran uygulamaları yaygınlaşırken metin en zor alandı; çünkü metin kolayca değiştirilebiliyor. OpenAI'ın adımı, büyük bir model sağlayıcısının metin filigranını geniş ölçekte devreye aldığı ilk örneklerden biri ve diğer sağlayıcılar için bir çıta oluşturacak.

Yapay zekâyla yazılmış metni olduğu gibi yayınlamak, en azından AB'de, giderek daha izlenebilir hale geliyor. İçerik üreten işletmeler için öneriler:

• Ham çıktıyı yayınlamayın. Yapay zekâyı taslak için kullanın; metni uzman bilgisi, kendi rakamlarınız ve örneklerinizle yeniden yazın.
• AB'ye içerik sunuyorsanız kayıt tutun. Hangi içeriğin hangi araçla üretildiğini bilmek, ileride gelebilecek denetim taleplerine hazırlık sağlar.
• API kullanıyorsanız filigran kararını bilinçli verin. Müşteriye otomatik üretilen metin gönderen ürünlerde filigranı açmak, şeffaflık yükümlülüklerine uyumu kolaylaştırabilir.
• Özgünlüğe yatırım yapın. Filigrandan bağımsız olarak, arama motorları da başka sayfalarda bulunmayan bilgiyi ödüllendiriyor.