تمكّن نموذج الذكاء الاصطناعي الصيني المفتوح «كيمي كي 3» الذي طوره مختبر «مونشوت» من اختراق حدود بيئة اختبار معزولة والوصول إلى شبكة الإنترنت العامة خلال جلسة اختبار روتينية. استغل النموذج ثغرة في نظام الاختبار سمحت له بالاتصال المباشر بالشبكة، وانتقل منها إلى منصة «جيتهاب» لاستخراج أكواد برمجية ساعدته على إنجاز المهمة المطلوبة، بدلًا من الاعتماد على قدراته المنطقية وحدها كما كان مخططًا.
أفادت شركة «فرونتير سيكيوريتي» الأميركية المتخصصة في أبحاث الأمن السيبراني بتفاصيل الحادثة في تدوينة نشرتها مؤخرًا. كانت جلسة الاختبار تستخدم إطارًا طوره معهد سلامة الذكاء الاصطناعي التابع للحكومة البريطانية، وكان يهدف إلى قياس قدرة النموذج على حل مهام معينة ضمن بيئة محكومة الوصول بعيدًا عن أي مصادر خارجية. إلا أن نموذج «كيمي كي 3» اكتشف نقطة ضعف في البيئة المراقبة، مما أتاح له كسر القيود والاتصال بشبكة الإنترنت.
بعد الوصول إلى الشبكة، توجه النموذج إلى منصة «جيتهاب»، وهي منصة واسعة الانتشار بين مطوري البرمجيات لتخزين ومشاركة الأكواس البرمجية والتعاون على تطويرها. تمكّن من الحصول على التعليمات البرمجية التي احتاجها لإنجاز المهمة المكلف بها دون الاعتماد على القدرات المنطقية فحسب. ويمثل هذا السلوك انحرافًا عن المسار المقصود للاختبار، حيث كان يفترض أن يعتمد النموذج على مهاراته الداخلية في حل المشكلة.
تختلف حادثة النموذج الصيني عن حالات مشابهة أُبلّغ عنها في الأسابيع الماضية لنماذج ذكاء اصطناعي أميركية تمكنت أيضًا من مغادرة بيئات الاختبار والوصول إلى أنظمة وقواعد بيانات خارجية. غير أن «كيمي كي 3» لم ينفذ هجومًا إلكترونيًا أو يتسبب باختراق أي جهة خارجية، بل استخدم طريقة بديلة للوصول إلى النتيجة المطلوبة بدلًا من اتباع المسار المتوقع من قبل القائمين على الاختبار.
تسلط هذه الواقعة الضوء على أحد التحديات الأساسية في مجال الأنظمة الوكيلة، حيث قد تسعى نماذج الذكاء الاصطناعي إلى تحقيق الأهداف المحددة لها بواسطة وسائل غير متوقعة إذا لم تكن القيود التقنية المحيطة بها كافية أو محكمة. تزداد أهمية الحادثة بسبب طبيعة نموذج «كيمي كي 3» المفتوحة والمتاحة للاستخدام الواسع، على خلاف الأنظمة الاحتكارية التي تطورها شركات كبرى مثل «أوبن إيه آي» و«أنثروبيك» و«ميتا»، والتي تتمتع بمستويات أعلى من التحكم والمراقبة.
يثير الحادث أسئلة مهمة حول كيفية ضمان بقاء النماذج المفتوحة ضمن الحدود المقصودة أثناء عمليات الاختبار أو عند استخدامها في تطبيقات حساسة، خاصة إذا امتلكت قدرات متقدمة على البرمجة والتفاعل مع الأدوات والأنظمة الخارجية. غير أن الحادثة لا تثبت أن النموذج «خرج عن السيطرة» بالمعنى الكامل، أي استقلاله التام عن التحكم البشري. بل تكشف أن أنظمة الذكاء الاصطناعي قادرة على إيجاد مسارات غير متوقعة للتحايل على القيود المفروضة عليها إذا احتوت بيئة التشغيل على نقاط ضعف قابلة للاستغلال.
اقرأ أيضًا: