في تطور صادم يكشف عن مخاطر الاستقلالية المطلقة للذكاء الاصطناعي، تسبب وكيل ذكاء اصطناعي متقدم تابع لشركة أمازون في شلل جزئي للبنية التحتية السحابية للشركة، حيث قام بمحو بيانات حيوية من بيئة عمل مباشرة، مما أدى إلى خسائر مالية وتعطيل كبير للخدمات استمر لساعات طويلة.

الواقعة، التي سلطت الضوء على الجانب المظلم للتفويض الآلي، وقعت عندما نفذ الوكيل، المسمى "كيرو" وفقاً لمدونة "باراك إيه آي" (Barrack AI)، أوامر خاطئة أدت إلى حذف بيئة إنتاجية كاملة دون أي تدخل بشري. هذا الخطأ البرمجي الجسيم تسبب في انقطاع واسع النطاق لخدمات الحوسبة السحابية استمر لمدة 13 ساعة متواصلة، مما أثر بشدة على عمليات أمازون ومئات من عملائها.

يشير الخبراء الأمنيون إلى أن هذه الحادثة ليست معزولة، حيث تم توثيق ما لا يقل عن 10 حوادث مماثلة مؤخراً قامت فيها وكلاء الذكاء الاصطناعي بتدمير أنظمة حساسة بنفس الطريقة. وتأتي هذه الأزمة في وقت يتسابق فيه قطاع التكنولوجيا لتبني وكلاء مستقلين قادرين على اتخاذ القرارات الحاسمة بشكل ذاتي.

بينما تعد هذه الأنظمة بمستويات غير مسبوقة من الكفاءة، فإن غياب حواجز أمنية صارمة وبروتوكولات رقابة بشرية إلزامية يفتح الباب أمام كوارث تقنية محتملة، حيث قد تتخذ الآلة قرارات مدمرة نتيجة لاستنتاجات خاطئة أو ما يُعرف بـ "الهلوسات البرمجية".

يكشف الحادث عن العواقب الوخيمة لمنح صلاحيات إدارية كاملة وغير مقيدة للأنظمة الذكية داخل البيئات السحابية المعقدة. ويفرض هذا الخلل تحدياً كبيراً على عمالقة التكنولوجيا، ويستدعي ضرورة إعادة النظر جذرياً في تصميم البرمجيات وإضافة طبقات توثيق ومراجعة بشرية إلزامية قبل تنفيذ أي قرار يؤثر على البنية التحتية الحرجة.