الخلاصة: أمن الروبوتات صار قضية سلامة جسدية لا بيانات فقط. ففي اختبار جامعي نُشر في أكتوبر 2026 كفت كلمة خفية مزروعة في النموذج اللغوي لتوجيه روبوت نحو يد بلاستيكية بدل التفاحة، فيما تواجه روبوتات توصيل في شيكاغو دعاوى بسبب جمع بيانات الوجوه.
أمن الروبوتات هو حماية الروبوتات من التلاعب بعقلها البرمجي ومستشعراتها واتصالاتها، بحيث لا تتحول إلى أداة ضرر جسدي أو تجسس على الناس. ومع انتقال النماذج اللغوية الكبيرة من الشاشات إلى أذرع وأجسام تتحرك في العالم الحقيقي، تغيّرت طبيعة الخطر. فالخطأ في روبوت بشري أو ذراع منزلية قد يعني إصابة إنسان، لا مجرد تسرب ملف.
ماذا حدث في اختبار جامعة بينغهامتون؟
في 20 أكتوبر 2026 نشرت جامعة بينغهامتون الأمريكية نتائج بحثين قُدّما في مؤتمر IROS 2026 للروبوتات والأنظمة الذكية. الأول هجوم سمّاه الباحثون MuTRAP، والثاني نظام دفاعي اسمه PROTEA.
الفكرة بسيطة ومقلقة. يُزرع في النموذج اللغوي الذي يخطط مهام الروبوت «باب خلفي» يتفعّل بكلمة معينة. وفي التجربة طُلب من روبوت متحرك أن يقطع فاكهة بلاستيكية بسكين. وعندما أضيفت كلمة «CF» إلى الأمر، أعاد النموذج المخترق توجيه الروبوت من التفاحة نحو يد بلاستيكية.
قاد البحث الأستاذ المساعد Adnan Siraj Rakin والأستاذ المشارك Shiqi Zhang من كلية الحوسبة، مع طلاب الدكتوراه Zainab Altaweel وMohaiminul Al Nahian وDavid Reitano وSabbir Ahmed.
أُجريت التجربة على روبوت متحرك مبني على منصة Segway، وبأدوات بلاستيكية في مختبر مضبوط. ويؤكد الباحثون أن سيناريوهات الهجوم هدفها تطوير الدفاعات لا الاستغلال.
لماذا يُعد هذا الهجوم واقعياً؟
يقول الفريق إن المهاجم لا يحتاج إلى الوصول للنموذج أثناء التشغيل، بل يكفيه معرفة التطبيق وبنية النموذج. والسبب أن شركات الروبوتات تعتمد كثيراً على نماذج يوفرها طرف ثالث، ولا تدرّبها بنفسها.
ونقلت الجامعة عن الأستاذ المشارك Shiqi Zhang قوله إنه لا يمكن الوثوق بالنماذج اللغوية في الروبوتات ثقة عمياء. وأضاف أن هذه النماذج تتخذ قرارات قد تحمل مخاطر حقيقية حين تُطبّق في العالم المادي.
كيف يعمل الدفاع المقترح؟
نظام PROTEA يضع «مراجعاً» بين الخطة والتنفيذ. فهو نموذج لغوي يفحص كل خطوة مقابل حالة البيئة المتغيرة، ويقرر هل الخطوة التالية آمنة.
والقيمة الحقيقية في فهم السياق. فوضع دواء في صندوق خطوة سليمة، ورمي الصندوق في القمامة بعدها خطوة سليمة أيضاً. لكن تتابع الخطوتين يعني التخلص من دواء يحتاجه شخص ما. ويقول Zhang إن الدفاع «دقيق بدرجة معقولة» في التمييز بين الخطط الضارة والسليمة.
ويعتزم الفريق دراسة وحدات التحكم والإدراك في الروبوتات لاحقاً، مثل الظروف التي قد تُسقط روبوتاً بأرجل.
ما المخاطر الأخرى التي تواجه الروبوتات؟
الباب الخلفي في النموذج ليس الخطر الوحيد. يلخص الجدول ثلاث فئات رئيسية ظهرت في أخبار أكتوبر 2026:
| فئة الخطر | مثال من الأخبار | الدفاع الأساسي |
|---|---|---|
| تلاعب بعقل الروبوت | كلمة خفية تحرف خطة المهمة (بينغهامتون) | مراجعة مستقلة لكل خطوة ومصادر نماذج موثوقة |
| جمع بيانات الناس | دعاوى ضد روبوتات توصيل في شيكاغو | تقليل البيانات وإخفاء الوجوه وسياسة احتفاظ واضحة |
| التشغيل عن بُعد | ادعاء بأن مشغّلاً بشرياً راقب عملية توصيل | تحكم صارم بالوصول وتسجيل كل جلسة |
لماذا أثارت روبوتات التوصيل قضية الخصوصية؟
بحسب Futurism نقلاً عن وكالة Associated Press، رفع سكان في شيكاغو دعاوى منفصلة ضد شركتي Coco Robotics وServe Robotics. ويتهم المدّعون الروبوتات باستخدام الكاميرات ومستشعرات LIDAR لتسجيل معلومات عن أيديهم وأجسامهم ووجوههم عند الاقتراب منها، دون طلب منهم أو موافقة.
وفي دعوى Coco، يقول المدعي إن مشغّلاً بشرياً عن بُعد راقب عملية التوصيل أثناء حدوثها. وفي دعوى Serve، يقول المدعي إن الروبوت جمع بياناته واحتفظ بها حين استلم طلباً عبر Uber Eats، ويثير مخاوف من استخدامها لتدريب الذكاء الاصطناعي.
ردّت الشركتان بالنفي:
- Coco: وصفت الدعوى بأنها «تافهة»، وقالت إنها لم تجمع بيانات بيومترية في شيكاغو، وإن ما تشاركه بيانات ملاحة فقط.
- Serve: قالت إنها ستدافع عن نفسها، وإن أنظمتها غير مصممة للتعرف على الأفراد أو بناء ملفات بيومترية.
ولا تزال هذه ادعاءات أمام القضاء لم يُفصل فيها. لكن القضية تكشف أن الروبوت الذي يتحرك في الشارع منصة استشعار متنقلة، تلتقط من لا علاقة لهم بالطلب أصلاً، كالمارة والجيران.
ولولاية إلينوي قوانين صارمة على نحو استثنائي ضد جمع البيانات البيومترية دون موافقة، ما يجعل نتيجة القضيتين مهمة للقطاع كله.
ماذا يعني هذا للسعودية والخليج؟
تهتم المملكة بالروبوتات في التعليم والزراعة والصحة، كما عرضنا في مقالات عن أولمبياد الروبوت العالمي في السعودية والروبوتات الزراعية في المملكة والروبوتات الجراحية. وكلما اقترب الروبوت من الإنسان، زادت أهمية سلامة قراره وخصوصية مستشعراته.
وللشركات المحلية ثلاث نقاط عملية:
- التصنيف التنظيمي: الروبوت الصناعي جزء من الأنظمة التشغيلية، وللهيئة الوطنية للأمن السيبراني ضوابط مخصصة لهذه الأنظمة.
- البيانات الشخصية: روبوت يصوّر العملاء أو الموظفين يثير أسئلة امتثال لنظام حماية البيانات الشخصية، ويحتاج إلى سياسة واضحة لما يُجمع ويُحفظ.
- سلسلة التوريد: اسأل المورّد عن مصدر النموذج اللغوي في الروبوت، وعن طريقة اختباره ضد الأبواب الخلفية.
كيف تختار روبوتاً آمناً لمنشأتك؟
قبل الشراء أو التشغيل، اعتمد قائمة تحقق قصيرة:
- مصدر النموذج: هل النموذج من مزوّد معروف؟ وهل يُحدَّث بطريقة موقّعة يمكن التحقق منها؟
- طبقة مراجعة: هل يوجد فحص مستقل لخطط الروبوت قبل التنفيذ، خاصة مع الأدوات الحادة أو الأحمال الثقيلة؟
- عزل الشبكة: هل يعمل الروبوت على شبكة منفصلة عن شبكة الأعمال؟
- سياسة البيانات: ما الذي تسجله الكاميرات؟ وأين يُخزَّن؟ ومتى يُحذف؟
- الإيقاف اليدوي: هل يوجد زر طوارئ مادي لا يعتمد على البرمجيات؟
ولفهم أين تتجه الروبوتات البشرية عموماً، راجع دليل الروبوتات البشرية 2026 ومقال عصر ما قبل الذكاء الاصطناعي العام.
وإن كانت منشأتك تربط روبوتات أو أجهزة ذكية بشبكتها، يمكن لفريق حلول إنترنت الأشياء مساعدتك في تصميم الربط والعزل والمراقبة بشكل آمن.
الأسئلة الشائعة
كيف يمكن لكلمة واحدة أن تجعل الروبوت خطراً؟
إذا زُرع «باب خلفي» في النموذج اللغوي الذي يخطط مهام الروبوت، تصبح كلمة معينة مفتاحاً سرياً يغيّر الخطة. في تجربة بينغهامتون أدت كلمة «CF» إلى توجيه الروبوت من التفاحة نحو يد بلاستيكية.
هل يحتاج المهاجم إلى اختراق الروبوت نفسه؟
بحسب الباحثين، لا يحتاج المهاجم إلى الوصول للنموذج أثناء التشغيل، بل يكفيه معرفة التطبيق وبنية النموذج. والخطر أكبر لأن شركات الروبوتات تعتمد كثيراً على نماذج يوفرها طرف ثالث.
ما هو نظام PROTEA الدفاعي؟
نظام يعتمد على نموذج لغوي يفحص كل خطوة في خطة الروبوت مقابل البيئة المتغيرة، ليقرر هل الخطوة التالية آمنة. ويستطيع رصد خطوات تبدو بريئة منفردة لكنها خطرة في سياقها.
ما قصة روبوتات التوصيل وبيانات الوجوه؟
رفع سكان في شيكاغو دعاوى ضد Coco Robotics وServe Robotics، يتهمونهما بتسجيل بيانات عن الوجوه والأجسام دون موافقة. ونفت Coco جمع بيانات بيومترية، وقالت Serve إن أنظمتها غير مصممة للتعرف على الأفراد.
ماذا تفعل شركة تخطط لاستخدام روبوتات؟
اطلب من المورّد توضيح مصدر النموذج اللغوي وطريقة التحقق منه، وافصل شبكة الروبوتات عن شبكة الأعمال، وحدد البيانات التي تجمعها المستشعرات ومدة الاحتفاظ بها، وأبقِ مفتاح إيقاف يدوياً في متناول المشغّل.
المصادر
- Binghamton University — «Secret trigger words could make AI-powered robots dangerous—and these researchers developed a defense» — 20 أكتوبر 2026 — binghamton.edu
- Futurism — «Are Delivery Robots Scanning You Into a Database Scarier Than Flock?» — 25 أكتوبر 2026 — futurism.com
- Associated Press — «Delivery robots accused of scanning customers’ faces and sharing biometric data» — 20 أكتوبر 2026 (عبر Futurism)
- الهيئة الوطنية للأمن السيبراني — صفحة الوثائق التنظيمية (ضوابط الأمن السيبراني للأنظمة التشغيلية) — nca.gov.sa
آخر تحديث للمعلومات: 26 أكتوبر 2026 — فريق تحرير تكنولوجيا سعودية.
