مصنّف مجاني من OpenAI لكشف صور استغلال الأطفال حتى المولّدة آليًا
· Cortex Solutions

أتاحت OpenAI للجهات المعتمدة مصنّفًا مجانيًا يرصد صور الاستغلال الجنسي للأطفال حتى المولّدة بالذكاء الاصطناعي، مع تحذيرات جديدة وإيقاف مؤقت للحسابات في ChatGPT.
أعلنت OpenAI هذا الأسبوع عن حزمة جديدة لحماية الأطفال على الإنترنت، أبرزها مصنّف للصور يكشف المواد المشتبه بأنها استغلال جنسي للأطفال، بما فيها الصور المولّدة بالذكاء الاصطناعي. ونقل الخبرَ موقع فوكس نيوز في تقرير نُشر يوم 16 نوفمبر 2026، وموقع Digit التقني يوم 17 نوفمبر 2026، وكلاهما استند إلى إعلان الشركة ومنشورها الرسمي.
لماذا تحتاج المنصات إلى أداة جديدة؟
بحسب تقرير فوكس نيوز، تعتمد معظم أنظمة الكشف الحالية على البصمات الرقمية (Hashes)، فتتعرّف على الملفات التي سبق رصدها وتسجيلها. أما المحتوى الجديد، وخاصة الصور التي يولّدها الذكاء الاصطناعي، فكثيرًا ما لا تكون له بصمة مطابقة، فيمرّ دون أن تلتقطه هذه الأنظمة.
لهذا يفحص المصنّف الجديد العلامات البصرية في الصورة نفسها، فيستطيع الإشارة إلى المحتوى المشتبه به حتى لو لم يُرصد من قبل. ويعطي كل صورة درجة تساعد المراجعين البشريين على ترتيب الحالات حسب الأولوية، أي أن القرار النهائي يبقى في يد الإنسان.
من يستطيع الوصول إليه؟
بحسب ما نقله موقع Digit عن OpenAI، فإن الشركة تقدّم المصنّف عبر واجهتها البرمجية (API) مجانًا للجهات التي تجتاز التحقق، بهدف إتاحة الكشف لمنظمات حماية الطفل وللقطاع التقني عمومًا، ومنها الفرق الصغيرة. وتقول الشركة إنه أول مصنّف من هذا النوع متاح على نطاق واسع يشير أيضًا إلى احتمال أن تكون الصورة مولّدة بالذكاء الاصطناعي.
وطوّرت OpenAI المصنّف بمساعدة المركز الوطني الأمريكي للأطفال المفقودين والمستغَلّين (NCMEC)، وتعمل مع تحالف Tech Coalition ومبادرة ROOST لإتاحته لعدد أكبر من الجهات.
ماذا تقول النتائج الأولية؟
ذكر الموقعان أرقامًا مصدرها OpenAI والجهات المشاركة في التجارب، لا اختبارات مستقلة:
- في تقييم أجرته OpenAI على صور رُفعت إلى أنظمتها، أشار المصنّف الجديد إلى عدد صور أقل بنسبة 48% تحتاج إلى مراجعة، مع رصد كمية مقاربة من المواد المسيئة مقارنة بأداتها الحالية.
- الصور التي أشار إليها المصنّف كانت أرجح بنحو الضعف أن تحتوي فعلًا على مادة مسيئة.
- بحسب فوكس نيوز، أكد مراجعو منصة Fal أن 72% من الإشارات عالية الثقة كانت مواد لم تُرصد من قبل.
- وأفادت شركة SafetyKit بأن المصنّف رصد 90% من حالات الرسوم والمقاطع المتحركة التي تتضمن إساءة للأطفال في تقييمها.
ونبّه تقرير فوكس نيوز إلى أن الاختبارات المستقلة هي التي ستحدد مدى موثوقية الأداة على المنصات المختلفة.
تغييرات داخل ChatGPT
إلى جانب المصنّف، أضافت OpenAI تحذيرات جديدة في ChatGPT تظهر عند محاولة البحث عن هذا النوع من المحتوى، وتوضح أن إضفاء الطابع الجنسي على الأطفال يسبب ضررًا حتى لو كانت المادة مولّدة بالذكاء الاصطناعي. وبعد التحذير تحذف الشركة المحادثة وتوقف نشاط الحساب 24 ساعة، وتوجّه المستخدم إلى دعم متخصص. أما تكرار المخالفة فقد يؤدي إلى قيود أطول أو إغلاق الحساب نهائيًا وإبلاغ الجهات المختصة.
وبحسب فوكس نيوز، بدأت OpenAI المشاركة في برنامج Lantern التابع لتحالف Tech Coalition لتبادل المعلومات عن حالات الاستغلال المشتبه بها بين المنصات. وتقدّم كذلك أدوات وتدريبًا لوحدات إنفاذ القانون المختصة بحماية الطفل، أولها أداة تساعد الفرق المخوّلة على مراجعة سجلات المحادثات الطويلة وتنظيم الخطوط الزمنية مع ربط النتائج بالمصدر. ونشرت أيضًا إرشادات للمطورين حول رصد المحتوى المشتبه به وإجراءات مراجعته.
ماذا يعني ذلك للشركات السعودية؟
لم يعد الإشراف على المحتوى شأن المنصات العالمية وحدها. فكل شركة سعودية تتيح للمستخدمين رفع الصور، كالمتاجر الإلكترونية وتطبيقات التوصيل والمنصات التعليمية ومنصات الإعلانات المبوبة وتطبيقات التواصل، تتحمل مسؤولية ما يُنشر عبرها. وهذه أبرز الدروس العملية:
- راجع سياسة المحتوى في تطبيقك أو منصتك: من يرفع الصور؟ ومن يراجعها؟ وما إجراء الإبلاغ والحذف؟
- الاعتماد على البصمات وحدها لم يعد كافيًا مع انتشار الصور المولّدة، والأدوات المعتمدة على الذكاء الاصطناعي أصبحت جزءًا من الحماية الأساسية.
- القرار النهائي يبقى للإنسان: صُمّم المصنّف ليرتّب الأولويات لفريق المراجعة لا ليحل محله، وهذا نموذج صحي لأي استخدام للذكاء الاصطناعي في القرارات الحساسة.
- الجهات المؤهلة، كمنظمات حماية الطفل والمنصات التي تستضيف محتوى المستخدمين، تستطيع التقدّم للحصول على المصنّف بلا تكلفة، وهذا يخفض حاجز الدخول أمام الفرق الصغيرة.
- عند بناء أي ميزة توليد صور أو رفع ملفات، ضع الحماية في التصميم من اليوم الأول، لا بعد وقوع المشكلة.
في كورتكس سوليوشنز نساعد الشركات على بناء تطبيقات ومنصات تراعي الأمان وحوكمة المحتوى منذ البداية، ودمج أدوات الذكاء الاصطناعي في سير العمل بطريقة مسؤولة: https://cortex.sa/services/ai-automation