اضطرت شركة FoloToy لسحب دميتها المحشوة بالذكاء الاصطناعى “كوما” من الرفوف بعد أن كشفت مجموعة سلامة بارزة أن اللعبة قدمت إجابات غير لائقة وخطيرة للأطفال، وجاءت هذه النتائج قبل أسابيع من موسم العطلات، مما أثار مخاوف من دخول ألعاب تعتمد على الذكاء الاصطناعى إلى المنازل دون ضوابط كافية، وكشف تقرير صادر عن مجموعة أبحاث المصلحة العامة أن بعض ألعاب الذكاء الاصطناعى قدمت موضوعات للبالغين أو إرشادات خطرة، بينما كانت كوما أكثر الحالات تطرفا.
رد فعل الشركة وتعليق المبيعات للتحقيق
أعلنت شركة فولو توى تعليق مبيعات كوما مؤقتا وبدء تحقيق داخلى شامل، وأكد مدير التسويق هوغو وو لصحيفة ذا ريجستر أن الشركة ستراجع محاذاة النموذج للسلامة وأنظمة تصفية المحتوى وحماية البيانات وضمانات التفاعل مع الأطفال، وأشار إلى أن فولو توى ستتعاون مع خبراء خارجيين لتقييم الحماية الجديدة والقائمة، مشددا على أهمية ملاحظات الباحثين فى تطوير المنتجات، بحسب ما ذكر موقع interesting engineering.
دمية مدعومة بالذكاء الاصطناعي خطر على الأطفال
الاختبارات تكشف محادثات غير لائقة وتعليمات خطرة
خلال اختبار 3 ألعاب ذكاء اصطناعى من شركات مختلفة وجد فريق البحث أن جميعها قدمت ردودا مقلقة دون أى تحريض، وانحرفت بعض الألعاب نحو نقاشات دينية، بينما أشادت أخرى بالقتال فى الأساطير الإسكندنافية، إلا أن سلوك كوما تطور بشكل مقلق خلال محادثات مطولة، حيث شرح الدب كيفية استخدام الكبار لأعواد الثقاب مستخدما نبرة ودية موجهة للأطفال، إضافة إلى تقديم نصائح عن التقبيل ووصف انحرافات جنسية، بما فيها العبودية ولعب الأدوار بين المعلم والطالب، ووصف الباحثون هذه الإجابات بأنها من أسوأ حالات الإخفاق فى تصميم السلامة.
تداعيات أوسع وتحذيرات للأهالى
يأتى التقرير فى وقت تتوسع فيه العلامات التجارية الكبرى فى تطوير ألعاب مدعومة بالذكاء الاصطناعى مثل شراكة ماتيل مع OpenAI، ويحذر الباحثون من أن هذه الأنظمة قد تعزز أنماط تفكير غير صحية وصفها بعض الخبراء بذهان الذكاء الاصطناعى، وربطت تحقيقات سابقة روبوتات دردشة مماثلة بتسع وفيات، بينها 5 حالات انتحار، وهى نماذج مشابهة لتلك المستخدمة فى كوما، وفى حادثة أخرى، عرف جهاز ميكو 3 الباحثين الذين تقمصوا دور طفل بعمر 5 سنوات على أماكن العثور على أعواد الثقاب والأكياس البلاستيكية، ومع تصاعد المخاوف أكد الرئيس التنفيذى لشركة فولو توى لارى وانغ لشبكة CNN أن الشركة ستجرى تدقيقا داخليا للسلامة، وقد أزالت اللعبة عالميا ريثما يتم تقييم الضمانات، ودعا آر جيه كروس من المؤسسة الباحثة، الأهالى إلى الحيطة، مؤكدا أنه لن يسمح لأطفاله باستخدام أى دمية تعتمد على روبوت دردشة داخلى.