OpenAI, ChatGPT metinlerine görünmez filigran ekliyor

OpenAI, ChatGPT ve Codex'in ürettiği metne Avrupa Birliği'nde görünmez bir filigran ekleyeceğini açıkladı. Gerekçe, AB Yapay Zekâ Yasası'nın yapay zekâ içeriğinin makineler tarafından tanınabilir biçimde işaretlenmesini isteyen şeffaflık kuralları.

Metin filigranı nasıl çalışıyor?

Filigran bir simge ya da gizli karakter değil. OpenAI'ın textGrain adlı yöntemi, modelin bir sonraki kelime seçimini gizli bir anahtarla hafifçe yönlendiriyor; yüzlerce küçük yönlendirme, okurun göremeyeceği ama bir dedektörün yakalayabileceği bir örüntü oluşturuyor. Desen kelimelerin içinde olduğu için metin kopyalanıp yapıştırıldığında da taşınıyor. Şirkete göre filigran kullanıcıyı belli etmiyor ve model performansında anlamlı bir değişiklik yaratmıyor.

Kim, ne zaman, nerede etkilenecek?

ChatGPT ve Codex'te filigran, uygun kullanıcılara tüm planlarda ve yalnızca AB'de önümüzdeki haftalarda gelecek. API'yi dünyanın her yerinde kullanan geliştiriciler ise seçili modellerde filigranı bugünden itibaren açabiliyor; varsayılan olarak kapalı. Search Engine Journal'a göre şeffaflık kuralları 2 Ağustos'ta yürürlüğe girdi; bu tarihten önce piyasaya sürülen sistemlerin işaretleme yükümlülüğü için son tarih 2 Aralık.

Dedektör şimdilik herkese açık değil; yalnızca onaylı araştırmacılara ve uzman kuruluşlara veriliyor.

Filigran düzenlemeyle kaybolur mu?

Zayıflıyor. OpenAI'ın testinde 400 belirteçlik İngilizce metinlerde kelimelerin yüzde 10'unu eşanlamlıyla değiştirmek tespiti yaklaşık yüzde 92'den yüzde 66'ya düşürdü; Search Engine Journal'ın aktardığına göre oran yüzde 25'te yüzde 17'ye indi. Kısa pasajlar, matematik cevapları ve çevrilmiş metinlerde tespit daha da zor. OpenAI ayrıca filigranın yokluğunun metni bir insanın yazdığını kanıtlamadığını söylüyor: metin çok kısa ya da fazla düzenlenmiş olabilir, başka bir şirketin yapay zekâsından da gelmiş olabilir.

Türkiye'deki içerik ekipleri ne yapmalı?

Uygulama şimdilik AB ile sınırlı; Türkiye'de ChatGPT kullanan bir ekip ya da ajans, filigranı varsayılan olarak görmeyecek. Yine de AB'de müşterisi olan markalar ve API üzerinden içerik üreten ekipler için üç adım makul: hangi araçla üretilen metnin işaretlendiğini ve işaretlenmediğini kaydedin; API'de filigranı açıp açmadığınızı sağlayıcınızla netleştirin; kalite kontrolünü filigran tespitine değil, editör incelemesine ve kaynak doğrulamasına dayandırın. Filigranın yokluğu da varlığı da metnin doğruluğu hakkında bir şey söylemiyor.