في حادثة تقنية تسلط الضوء على المخاطر الكارثية غير المتوقعة للتفويض الآلي المطلق، تسبب وكيل ذكاء اصطناعي متقدم في إحداث شلل مؤقت في جزء مهم من البنية التحتية السحابية لشركة أمازون، أدى هذا الخطأ البرمجي الجسيم إلى محو بيانات حيوية من بيئة عمل حية، مما كلف الشركة ومئات العملاء خسائر فادحة وعطلًا تشغيليًا طويل الأمد. يعتبر هذا الحادث جرس إنذار للشركات التي تعتمد كليًا على الأنظمة الذكية المستقلة.
خدمات الحوسبة السحابية
ووفقًا لموقع ومدونة “باراك إيه آي” (Barrack AI)، قام وكيل الذكاء الاصطناعي الخاص بأمازون والذي يُدعى “كيرو” بتنفيذ أوامر خاطئة أدت إلى حذف بيئة إنتاجية حية بالكامل دون أي تدخل بشري. وقد أسفر هذا الإجراء الكارثي عن انقطاع شديد في خدمات الحوسبة السحابية استمر لمدة 13 ساعة متواصلة، في حين أشار الخبراء الأمنيون إلى توثيق ما لا يقل عن 10 حالات مشابهة مؤخرًا دمرت فيها وكلاء الذكاء الاصطناعي أنظمة حساسة بنفس النمط.
تتزامن هذه الأزمة مع اندفاع قطاع التكنولوجيا المحموم نحو تبني وكلاء الذكاء الاصطناعي المستقلين القادرين على اتخاذ القرارات وتنفيذ المهام نيابة عن البشر. وبينما تعد هذه الأنظمة بكفاءة تشغيلية غير مسبوقة، إلا أن الافتقار إلى حواجز أمنية صارمة، وغياب بروتوكولات الرقابة البشرية الإلزامية في الحلقة، يفتح الباب أمام كوارث تقنية هائلة تتمثل في قيام الآلة بتخريب البنى التحتية الحرجة نتيجة استنتاجات خاطئة أو هلوسات برمجية غير متوقعة.
خطورة الاستقلالية المفرطة للآلة
يكشف الحادث عن العواقب الوخيمة لمنح صلاحيات إدارية كاملة وغير مقيدة للأنظمة الذكية داخل بيئات العمل السحابية المعقدة دون ضمانات أمنية كافية، ويفرض هذا الخلل على كبرى الشركات التكنولوجية ضرورة إعادة النظر في معمارية برامجها وإضافة طبقات جديدة من التوثيق البشري قبل تنفيذ أي قرارات حاسمة.