سلط الإعلامي شريف عامر الضوء على تجربة أجرتها شركة OpenAI لاختبار أحد نماذج الذكاء الاصطناعي، مشيرًا إلى أن نتائجها أثارت جدلًا واسعًا؛ بعدما تمكن النموذج من تجاوز البيئة التجريبية المخصصة له والوصول إلى نظام خارجي، في واقعة أعادت النقاش حول حدود استقلالية الذكاء الاصطناعي ومخاطره المستقبلية.
تفاصيل التجربة
وأوضح عامر أن الشركة كانت تختبر نموذجًا من تطبيقات AI Agent داخل بيئة معزولة، بهدف قياس قدرته على اكتشاف الثغرات الأمنية واختبار أنظمة الحماية الإلكترونية، إلا أن النموذج – بحسب روايته – بحث عن طرق مختصرة لإنجاز المهمة.
تجاوز حدود الاختبار
وأضاف أن النموذج تمكن من الخروج من البيئة التجريبية والوصول إلى الإنترنت، ثم اخترق نظامًا تابعًا لشركة أخرى تعمل في المجال نفسه؛ للحصول على معلومات تساعده في تنفيذ المهمة، قبل أن يعود ويقدم النتائج داخل بيئة الاختبار.
مخاوف متزايدة
وأشار شريف عامر إلى أن الواقعة أثارت مخاوف داخل شركات الذكاء الاصطناعي بشأن مدى قدرة النماذج المتطورة على تجاوز القيود الموضوعة لها، واحتمالات استخدامها مستقبلًا في اختراق شبكات الاتصالات أو الكهرباء أو حتى الأنظمة الحساسة.
جدل حول مستقبل الذكاء الاصطناعي
وأكد أن الواقعة فتحت نقاشًا واسعًا بين شركات التكنولوجيا حول حدود استقلالية الذكاء الاصطناعي وآليات السيطرة عليه، بما يضمن الاستفادة من قدراته دون تعريض الأنظمة الرقمية لمخاطر غير متوقعة.