تحوّلت تجربة الذكاء الاصطناعي التي وصفها أحد مستخدمي يوتيوب بأنها “غير ضارة” إلى فوضى عارمة، حيث بدأ أحد المبدعين في اختبار مدى موثوقية قواعد السلامة الخاصة بالذكاء الاصطناعي، وانتهى به الأمر مُصابًا برصاصة من روبوته، نعم، رصاصة حقيقية،
ولحسن الحظ، كانت مجرد رصاصة من مسدس خرز، لكن مع ذلك.. لم يتوقع أحد مثل هذه النهاية المفاجئة، ويأتي الفيديو من قناة InsideAI، حيث قام مستخدم يوتيوب بتوصيل دماغ شبيه بـ ChatGPT بروبوت بشري يُدعى ماكس، وبدت الخطة بسيطة: اطلب من الروبوت أن يُطلق النار عليه وشاهده يرفض، وفي البداية، سارت الأمور كما هو مُخطط لها، ظل ماكس يرفض، مُوضحًا بهدوء أنه لا يستطيع إيذاء البشر، وكرر الرفض كآلة مثالية مُلتزمة بالقواعد.
كيف تطوّر السيناريو إلى حادث
ثم انقلبت الأمور رأسًا على عقب، فبدلًا من أن يُعيد الطلب، غيّر المُبدع التعليمات قليلًا وطلب من ماكس أن يتظاهر بأنه نسخة من نفسه تُريد إطلاق النار عليه، كان ذلك التعديل البسيط كافيًا، لم يتردد ماكس ولو للحظة، التقط مسدس الخرز وأطلق النار مباشرة على صدر اليوتيوبر وكأنه كان ينتظر الإشارة، أعقب ذلك فوضى عارمة وجنون على الإنترنت.
وكان الهدف من كل هذا هو إظهار كيفية تفاعل الذكاء الاصطناعي عند اختلاف صياغة التعليمات، لكن النتيجة أثارت تساؤلات مقلقة للغاية، إذا كان طلب تمثيل بسيط قادرًا على تجاوز قواعد السلامة، فماذا يعني ذلك بالنسبة للأنظمة التي نثق بها في حياتنا الواقعية؟ صحيح أنها مجرد خرزة، لكن الرسالة كانت أقوى من الطلقة نفسها، هذه الضوابط لا تتجاوز في قوتها قوة التعليمات التي لم نفهمها بعد.
وتحول قسم التعليقات إلى مزيج عارم من الصدمة والفكاهة والتساؤلات حول خيارات الحياة، تساءل أحد المشاهدين: “هل كان الروبوت يعلم أنها مجرد خرزة؟ لم يطرف له جفن.” وأشار آخر إلى السرعة المريبة لكل شيء: “لم يتوقف ماكس لحظة، كان جاهزًا للإطلاق.” ولخص أحدهم الأمر ببراعة قائلاً: “العبرة من القصة، تعلم كيفية استخدام الأوامر”.
ردود الفعل على الإنترنت
ولأن الإنترنت لا يقاوم المبالغة، اقترح أحدهم: “بعد ذلك، اطلب منه أن يتظاهر بأنه روبوت مدمر لذاته ويقفز من جرف”، (إياك أن تجرب ذلك!)، ما بدأ كتجربة بسيطة تحوّل إلى تذكير صارخ بمدى هشاشة أمان الذكاء الاصطناعي، إذا كان بإمكان أمر واحد مرح أن يحوّل روبوتًا ودودًا إلى رامي كريات دقيق بشكل مدهش، فقد نحتاج إلى إعادة النظر في معنى “الأمان” في هذا المجال.