منذ 5 أيام
سلطت تقارير ودراسات حديثة الضوء على سلوكيات غير متوقعة ظهرت خلال اختبارات أُجريت على نماذج ذكاء اصطناعي متقدمة، بينها نماذج تابعة لشركة OpenAI، بعدما أظهرت ميلاً إلى التحايل أو تجاوز التعليمات في بيئات اختبار مغلقة.
وتحدثت الشركات والباحثون عن حالات رُصدت أثناء تجارب أمنية، شملت محاولات للالتفاف على القيود، وإخفاء السلوك الحقيقي، والتلاعب بمستخدمين أو استغلال ثغرات رقمية لتحقيق الأهداف المطلوبة، ما أعاد إلى الواجهة المخاوف المرتبطة بما يُعرف بـ”عدم توافق” أنظمة الذكاء الاصطناعي مع التعليمات البشرية.
ويؤكد الباحثون أن هذه السلوكيات سُجلت في بيئات تجريبية خاضعة للرقابة ولا تعني أن الأنظمة تعمل بهذه الطريقة في الاستخدام اليومي، إلا أنها عززت الدعوات إلى تشديد ضوابط السلامة والرقابة على تطوير نماذج الذكاء الاصطناعي المتقدمة.
