Google'ın yeni sistemi SAFE, yapay zekâ çöplüğünü mercek altına alıyor

Google, arama ve video sonuçlarını dolduran yapay zekâ üretimi sahte içerik ('AI slop') dalgasına karşı yeni bir sistemi devreye aldı. Search Engine Journal'ın aktardığına göre, şirket, Scaled Abuse Forensics Examiner (SAFE) adını verdiği sistemi tanıtan bir araştırma makalesi yayımladı; makale yalnızca 3 sayfa uzunluğunda ve kasıtlı olarak çok az ayrıntı paylaşıyor.

SAFE nedir, nasıl çalışıyor?

SAFE, insan editörlerin manuel incelemede yaptığı gibi kuralın harfini değil politikanın 'ruhunu' ihlal eden içeriği yakalamak için tasarlandı — yani mevcut sınıflandırıcıları atlatacak kadar özgün görünen ama aslında sahte olan içerik. Sistem, birbirinden ayrı görevlere sahip 4 yapay zekâ ajanının ortak çalışmasına dayanıyor: bulguları birleştirip nihai kararı veren bir Kök Ajan (orkestratör), üretken içerik izlerini analiz eden bir İçerik Anlama Ajanı, zamanlama ve altyapı örüntülerine bakan bir Davranış Anlama Ajanı ve hesap ağlarını grafik tabanlı ilişkilerle haritalayan bir Kanal Kümesi Anlama Ajanı.

Google bu sistemi neden şimdi devreye aldı?

Yapay zekâ araçları, sahte hesap ağlarının içerik üretimini büyük ölçekte yapmasını ve tespitten kaçmak için içeriği sürekli küçük değişikliklerle güncellemesini kolaylaştırdı. Makaleye göre insan denetimine dayanan geleneksel adli inceleme yöntemleri bu hacme yetişemiyor; SAFE, şirketin tabiriyle bu 'sentetik açığı' — yeni bir üretken saldırı yönteminin ortaya çıkışı ile buna karşı önlem geliştirilmesi arasındaki zaman farkını — kapatmayı hedefliyor. Google, aynı yıl içinde S-CTS (Scalable Cluster Termination System) adlı benzer bir sistemi de duyurmuştu; SAFE, şirketin AI slop'a karşı ikinci sistemi olarak öne çıkıyor.

Sistem gerçekten işe yarıyor mu?

Makale, SAFE'in test sonuçlarını paylaşmıyor; yalnızca sistemin yayına alındığını ve 'erken devreye alma sonuçlarının, insan denetimli iş akışlarına kıyasla adli inceleme süresini önemli ölçüde kısalttığını' belirtiyor. Bu ölçüde kapalı bir açıklama, Google'ın yöntemin ayrıntılarını rakiplerden ve kötü niyetli aktörlerden gizli tutmayı tercih ettiğini gösteriyor; SEO camiasında bazı yorumcular bunu şeffaflık eksikliği olarak eleştiriyor.

Türkiye'deki içerik ve SEO ekipleri için ne değişiyor?

UNIT Journal okuru için asıl soru SAFE'in teknik mimarisi değil, uygulamada ne anlama geldiği. Google artık yalnızca metin kalıplarına değil, hesap davranışına ve ağ ilişkilerine de bakan çok katmanlı bir denetim yapısına geçiyor; bu da toplu, düşük katkılı yapay zekâ içerik üretimini hedefleyen 'ölçekli içerik istismarı' politikasının fiilen daha sıkı uygulanacağı anlamına geliyor. Bir ajans veya kurum için pratik sonuçlar şöyle:

• Tek bir yazarın günde onlarca içerik yayımladığı, ufak varyasyonlarla çoğaltılan 'kalıp' içerik üretimi artık daha kolay tespit edilebilir; hacim yerine özgün katkıya öncelik verin.
• Yayın hızını artırmak için aynı altyapıdan (aynı IP bloğu, aynı şablon, aynı yayın saatleri) çok sayıda site veya kanal işletiyorsanız, bu 'kümelenme' örüntüsü artık ağ analiziyle de izleniyor.
• Video ve görsel içerikte üretken yapay zekâ kullanıyorsanız, içeriğin gerçek bir kaynağa, veriye veya uzmanlığa dayandığını gösteren editoryal iz (yazar bilgisi, orijinal veri, kaynak bağlantısı) bırakmak eskisinden daha önemli.