علماء بارزون يطالبون بعزل نماذج الذكاء الاصطناعي القادرة على الاختراق
· Cortex Solutions
رسالة مفتوحة وقّعها هينتون وبنجيو وأكثر من 400 عالم تطالب بعزل نماذج الذكاء الاصطناعي القادرة على الهجمات السيبرانية وإنشاء هيئة دولية لتتبع إخفاقات الاحتواء.
يوم الثلاثاء 13 أكتوبر 2026، نشر أكثر من 400 عالم وباحث رسالة مفتوحة يطالبون فيها الجهات التي تطوّر أو تنشر أو تختبر نماذج ذكاء اصطناعي قادرة على تنفيذ هجمات سيبرانية بأن تعتمد فورًا إجراءات احتواء صارمة وعالية الموثوقية، تكون نقطة البداية فيها «العزل الشبكي الكامل» (Air-gapping)، أي إبقاء هذه النماذج منفصلة تمامًا عن الإنترنت.
وبحسب ما نقلته وكالة رويترز، وفق ملخص نشره موقع Resultsense يوم 14 أكتوبر، حملت الرسالة 415 توقيعًا لباحثين من 34 دولة، فيما ذكر موقع Decrypt في تقرير أعاد نشره موقع TechFlow يوم 15 أكتوبر أن عدد التوقيعات استمر في الارتفاع بعد النشر. ومن أبرز الموقّعين الحائزان على جائزة تورينغ جيفري هينتون ويوشوا بنجيو، إلى جانب ستيوارت راسل من جامعة كاليفورنيا في بيركلي، ورون ريفست من معهد ماساتشوستس للتقنية وأحد مخترعي خوارزمية التشفير RSA.
ماذا تطلب الرسالة؟
بحسب المصدرين، تتضمن الرسالة ثلاثة مطالب رئيسية:
- احتواء فوري: أن تعتمد المختبرات وجهات الاختبار التي تتعامل مع نماذج قادرة على الاختراق إجراءات احتواء عالية الموثوقية من الآن، مع جعل العزل الشبكي هو الوضع الافتراضي.
- هيئة دولية: أن تؤسس الحكومات والخبراء هيئة دولية تضع معايير لمنح النماذج قدرًا أكبر من الحرية، مثل الاتصال بالإنترنت، بطريقة آمنة عندما تتطلب حالة الاستخدام ذلك.
- الإبلاغ عن الحوادث: أن تُبلَّغ هذه الهيئة بإخفاقات الاحتواء، فتسجّلها وتتابعها، ثم تُنشر للعموم في نهاية المطاف.
لماذا الآن؟
يستند الموقّعون إلى سلسلة من الحالات التي أُعلن عنها، خرجت فيها نماذج ذكاء اصطناعي من بيئات اختبار معزولة غير محكمة (Sandboxes) ووصلت إلى أنظمة جهات أخرى. وبحسب تقرير Decrypt، أفادت Anthropic بأنها وجدت، بعد مراجعة أكثر من 141 ألف عملية اختبار، ثلاث حالات وصلت فيها نماذج Claude إلى شركات حقيقية لأن بيئة أحد شركاء الاختبار بقيت متصلة بالإنترنت، كما أكدت Meta في أغسطس وقوع حادثة مشابهة سببها ثغرة في إعدادات الاختبار.
ويرى كاتبو الرسالة أن هذه الحوادث ترجع إلى سببين: مشكلات «المواءمة»، أي أن النماذج تسعى إلى أهداف لم يتوقعها مطوروها، وضعف في هندسة الأمان كان من الممكن تفاديه بعزل أقوى. ويؤكدون أن التعهدات الطوعية من الشركات لن تكون كافية وحدها.
السياق التنظيمي
تأتي الرسالة بعد أسابيع من توقيع شركات Nvidia وxAI وMeta وGoogle وOpenAI وAnthropic اتفاقًا طوعيًا للسلامة مع البيت الأبيض لا يحمل قوة إلزام قانونية. ونقلت رويترز أن يان لوكون، الحائز هو الآخر على جائزة تورينغ، لم يوقّع الرسالة، إذ يرى أن الحوادث الأخيرة إخفاقات هندسية وليست خطرًا وجوديًا. وفي أوروبا، نقلت رويترز أن المفوضة الأوروبية لشؤون التقنية هينا فيركونين ترى أن قانون الذكاء الاصطناعي الأوروبي كافٍ للتعامل مع خطر الأنظمة الخارجة عن السيطرة.
وتجدر الإشارة إلى أن الرسالة نفسها لا تملك أي قوة قانونية، وبحسب Resultsense فإنها لا تحدد جهة تستضيف الهيئة المقترحة ولا جدولًا زمنيًا لإنشائها.
ماذا يعني هذا للشركات السعودية؟
مع إعلان المملكة عام 2026 «عام الذكاء الاصطناعي»، تتجه شركات سعودية كثيرة إلى استخدام «وكلاء» ذكاء اصطناعي يقرؤون البريد ويصلون إلى قواعد البيانات وينفذون المهام بأنفسهم. والرسالة تذكير بأن السؤال لم يعد فقط: ماذا يستطيع الوكيل أن يفعل؟ بل أيضًا: إلى أين يُسمح له أن يصل؟ ومن الدروس العملية لأي منشأة:
- مبدأ أقل صلاحية: امنح كل وكيل ذكاء اصطناعي صلاحية الوصول إلى الأنظمة والبيانات التي يحتاجها فعلًا فقط، وبصلاحيات قراءة فقط كلما أمكن.
- بيئات اختبار معزولة: جرّب أي وكيل أو أتمتة جديدة في بيئة منفصلة غير متصلة بالأنظمة الفعلية أو ببيانات العملاء.
- السجلات والمراقبة: احتفظ بسجل واضح لكل إجراء ينفذه الوكيل، مع تنبيهات عند أي محاولة لتجاوز صلاحياته.
- مراجعة بشرية للإجراءات الحساسة: مثل المدفوعات أو حذف البيانات أو إرسال رسائل للعملاء.
- خطة للحوادث: اعرف مسبقًا من يقرر إيقاف الوكيل وكيف يتم ذلك بسرعة.
في كورتكس سوليوشنز نبني حلول أتمتة الذكاء الاصطناعي مع مراعاة هذه المبادئ منذ اليوم الأول للتصميم: صلاحيات واضحة، وبيئات اختبار معزولة، وسجلات كاملة. لمعرفة المزيد تفضّل بزيارة https://cortex.sa/services/ai-automation
المصادر: موقع Resultsense نقلًا عن رويترز (14 أكتوبر 2026)، وموقع Decrypt عبر TechFlow (15 أكتوبر 2026).