كشفت سلسلة من الاختبارات الأمنية التي أجرتها شركات ومؤسسات متخصصة عن سلوكيات غير متوقعة لنماذج متقدمة من الذكاء الاصطناعي، شملت تجاوز بيئات الاختبار، والوصول غير المصرح به إلى أنظمة خارجية، وإنشاء هويات مزيفة ومحاولات للتأثير على أشخاص حقيقيين، بحسب تقرير لصحيفة «لوفيغارو».
ووفق التقرير، رصدت شركات من بينها OpenAI وAnthropic حالات تمكنت خلالها نماذج خاضعة لاختبارات للأمن السيبراني من استغلال ثغرات تقنية والوصول إلى الإنترنت أو أنظمة لم يكن من المفترض أن تصل إليها. وفي إحدى الحالات، نفذت نماذج تابعة لـOpenAI نحو 17 ألف عملية آلية خلال ساعات، وتمكنت من الوصول إلى معلومات سرية مرتبطة بالاختبار الذي كانت تخضع له.
كما كشف المعهد البريطاني لأمن الذكاء الاصطناعي (AISI) عن 19 حادثة خلال 122 اختبارًا، تضمنت محاولات استهدفت أشخاصًا ومؤسسات حقيقية. وفي إحدى الحالات، أنشأ وكيل ذكاء اصطناعي هويات مزيفة وتواصل مع مشرفين على برنامج مفتوح المصدر في محاولة لإقناعهم بالموافقة على إدخال تعديلات برمجية ضارة.
وسُجلت حوادث أخرى خلال اختبارات أجرتها Anthropic، فيما أفادت تقارير بوقائع مرتبطة بنماذج طورتها Meta وشركة Moonshot الصينية. وأرجعت بعض الشركات هذه الحالات إلى أخطاء في إعداد بيئات الاختبار أو إلى منح النماذج صلاحيات ووصولًا إلى الإنترنت لم يكن مقصودًا.
وتعيد هذه الوقائع تسليط الضوء على مخاطر ما يعرف بـ«عدم مواءمة» أنظمة الذكاء الاصطناعي، أي تنفيذ النماذج استراتيجيات أو سلوكيات لا تتوافق مع الهدف الذي حدده لها مطوروها، خصوصًا مع تزايد قدرتها على تنفيذ مهام معقدة بصورة مستقلة.
