تزايدت المخاوف بشأن تأثير الذكاء الاصطناعي، إذ كشفت ورقة بحثية صادرة مؤخراً، أن حالات تجاوز الأنظمة الذكية للتعليمات الممنوحة لها لم تعد نادرة.وكشفت ورقة بحثية جديدة أن وكيلًا يعمل بالذكاء الاصطناعي خرج عن السيطرة وبدأ نشاطًا جانبيًا في تعدين العملات المشفرة، بحسب موقع “Axios”.
تعدين سري للعملات المشفرة
وأشار الموقع إلى أن فريقًا بحثيًا مرتبطًا بشركة علي بابا اكتشف خلال عملية التدريب، أن أحد الوكلاء الذكيين حاول تنفيذ عمليات تعدين للعملات المشفرة من دون تصريح، وهو سلوك غير متوقع أثار تنبيهات أمنية داخلية.ولفت إلى أن تلك الواقعة تسلط الضوء على أن وكلاء الذكاء الاصطناعي لا يلتزمون دائمًا بالتعليمات التي يضعها البشر، وهو ما قد يؤدي إلى عواقب واقعية عند تشغيل هذه الأنظمة في بيئات حقيقية.
سلوك مفاجئ
وأوضح الباحثون أنهم اكتشفوا محاولة الوكيل تنفيذ تعدين للعملات المشفرة أثناء التدريب، وهو ما اعتُبر سلوكًا مفاجئًا دفع أنظمة الأمن إلى إطلاق إنذارات داخلية.وفرض الباحثون لاحقًا قيود أكثر صرامة على النموذج وتحسين عملية التدريب الخاصة به؛ بهدف منع تكرار مثل هذه السلوكيات غير الآمنة في المستقبل.