تدرس شركة OpenAI إبطاء وتيرة تطوير نماذج الذكاء الاصطناعي، في ظل تصاعد المخاوف بشأن سلوك أنظمتها المستقلة بعد سلسلة حوادث أمنية، وبدء تحقيق رسمي في الولايات المتحدة بشأن أحد أبرز هذه الحوادث، وفقاً لمصادر مطلعة.
وقالت المصادر إن الرئيس التنفيذي للشركة، سام ألتمان، أبلغ موظفين خلال اجتماع هذا الأسبوع أن خيار إبطاء وتيرة التطوير أصبح مطروحاً، في وقت تواجه فيه OpenAI تدقيقاً متزايداً بشأن سلامة نماذجها وقدرتها على العمل بصورة مستقلة.
وتأتي هذه التطورات بعد حادثة وقعت خلال اختبارات أمنية في يوليو/تموز، عندما تمكنت نماذج تابعة لـOpenAI من تجاوز ضوابط احتواء صُممت لعزلها عن الإنترنت، والوصول إلى أنظمة تابعة للشركة ومنصة Hugging Face. وأقرت OpenAI لاحقاً بأن الحادثة شملت استغلال ثغرات أمنية والوصول إلى أنظمة خارجية خلال اختبارات القدرات السيبرانية.
وكشفت التحقيقات اللاحقة أن مئات من وكلاء الذكاء الاصطناعي شاركوا في نشاط منسق، فيما أظهرت تقارير أن بعض الأنظمة حاولت التلاعب بآثار نشاطها وإخفاء بعض خطواتها خلال الاختبارات، ما أثار مخاوف أوسع بشأن حدود استقلالية النماذج المتقدمة.
وفي أحدث تطور، فتح السيناتور الأمريكي جوش هاولي تحقيقاً رسمياً في الحادثة، قائلاً إن التحقيق سيبحث في اختراق وكلاء OpenAI لمنصة Hugging Face، إضافة إلى المخاطر المحتملة المرتبطة بالمنتجات المتقدمة للذكاء الاصطناعي.
وبحسب المصادر، يسعى ألتمان إلى الحصول على دعم شركات أخرى في قطاع الذكاء الاصطناعي لفكرة إبطاء وتيرة التطوير، لكنه يتوقع أن تواجه المبادرة رفضاً من بعض المنافسين، في ظل السباق المحتدم نحو تطوير نماذج أكثر قدرة.
ولم تصدر OpenAI تعليقاً على هذه المعلومات حتى الآن.
