نظام SAFE الجديد من Google يضع المحتوى المزيف تحت المجهر

طرحت Google نظاماً جديداً لمواجهة موجة المحتوى المزيف المولَّد بالذكاء الاصطناعي («AI slop») التي تملأ نتائج البحث والفيديو. وبحسب Search Engine Journal، نشرت الشركة ورقة بحثية تعرّف بنظام تسميه Scaled Abuse Forensics Examiner (SAFE)؛ ولا يتجاوز طول الورقة 3 صفحات، وهي تتعمد مشاركة قدر ضئيل جداً من التفاصيل.

ما هو SAFE وكيف يعمل؟

صُمم SAFE لرصد المحتوى الذي ينتهك «روح» السياسة لا نصها، على غرار ما يفعله المحررون البشريون في المراجعة اليدوية: أي المحتوى الذي يبدو أصلياً بما يكفي لتجاوز أدوات التصنيف الحالية لكنه في الحقيقة مزيف. ويعتمد النظام على 4 وكلاء للذكاء الاصطناعي بمهام متمايزة يعملون معاً: وكيل رئيسي (Root Agent) يتولى التنسيق ويجمع النتائج ويتخذ القرار النهائي، ووكيل لفهم المحتوى (Content Understanding Agent) يحلل آثار المحتوى التوليدي، ووكيل لفهم السلوك (Behaviour Understanding Agent) يدرس أنماط التوقيت والبنية التحتية، ووكيل لفهم مجموعات القنوات (Channel Cluster Understanding Agent) يرسم خرائط شبكات الحسابات من خلال علاقات قائمة على الرسوم البيانية.

لماذا طرحت Google هذا النظام الآن؟

سهّلت أدوات الذكاء الاصطناعي على شبكات الحسابات المزيفة إنتاج المحتوى على نطاق واسع وتحديثه باستمرار بتغييرات طفيفة لتفادي الرصد. ووفقاً للورقة، لا تستطيع أساليب التحقيق التقليدية المعتمدة على المراجعة البشرية مواكبة هذا الحجم؛ ويهدف SAFE إلى سد ما تسميه الشركة «الفجوة الاصطناعية»، أي الفارق الزمني بين ظهور أسلوب هجوم توليدي جديد وتطوير التدابير المضادة له. وكانت Google قد أعلنت أيضاً في وقت سابق من العام نفسه عن نظام مماثل يحمل اسم S-CTS (Scalable Cluster Termination System)، ما يجعل SAFE النظام الثاني للشركة في مواجهة المحتوى المزيف المولَّد بالذكاء الاصطناعي.

هل يعمل النظام فعلاً؟

لا تشارك الورقة نتائج اختبارات SAFE؛ بل تكتفي بالإشارة إلى أن النظام قد طُرح وأن «نتائج الطرح المبكرة قلّصت وقت التحقيق بشكل كبير مقارنة بمسارات العمل الخاضعة للإشراف البشري». ويوحي هذا الإفصاح المحدود بأن Google تفضّل إخفاء تفاصيل أسلوبها عن المنافسين والجهات المسيئة؛ وينتقد بعض المعلقين في أوساط SEO ذلك بوصفه نقصاً في الشفافية.

ما الذي يتغير لفرق المحتوى وSEO؟

بالنسبة إلى قارئ UNIT Journal، لا يكمن السؤال الحقيقي في البنية التقنية لنظام SAFE، بل في معناه العملي. إذ تنتقل Google إلى هيكل مراجعة متعدد الطبقات لا ينظر إلى أنماط النصوص فحسب، بل إلى سلوك الحسابات والعلاقات الشبكية أيضاً؛ وهذا يعني عملياً أن سياسة «إساءة استخدام المحتوى على نطاق واسع»، التي تستهدف الإنتاج الجماعي لمحتوى منخفض القيمة بالذكاء الاصطناعي، ستُطبَّق بصرامة أكبر. وفيما يلي الانعكاسات العملية على الوكالات والمؤسسات:

• بات من الأسهل الآن رصد إنتاج المحتوى القائم على القوالب، حيث ينشر مؤلف واحد عشرات القطع يومياً مضاعفة عبر تغييرات طفيفة؛ فامنحوا الأولوية للإسهام الأصيل على حساب الكمية.
• إذا كنتم تديرون مواقع أو قنوات كثيرة من البنية التحتية نفسها (نطاق IP نفسه، والقالب نفسه، وأوقات النشر نفسها) لزيادة الإنتاج، فإن نمط «التجميع» هذا بات يُرصد الآن أيضاً عبر تحليل الشبكات.
• إذا كنتم تستخدمون الذكاء الاصطناعي التوليدي في محتوى الفيديو والصور، فإن ترك أثر تحريري (معلومات المؤلف، والبيانات الأصلية، وروابط المصادر) يُظهر أن المحتوى يستند إلى مصدر حقيقي أو بيانات أو خبرة بات أكثر أهمية من ذي قبل.