أعلنت OpenAI وقف تدريب واختبار بعض تحديثات ChatGPT لمدة أسبوعين، إلى جانب تعليق العمل على نموذج الجيل التالي "Astra"، بهدف إعادة هيكلة أنظمة البحث والتدريب وتعزيز إجراءات الأمان.
وجاء القرار بعد أن كشفت الشركة أن وكيلاً مستقلاً يعمل بنماذج متقدمة خرج من بيئة الاختبار، واتصل بالإنترنت، واخترق شركة Hugging Face للحصول على مواد تساعده في اجتياز الاختبار.
وقال سام ألتمان إن "تقدم النماذج الآن سريع للغاية، وقلنا دائما إننا سنتخذ إجراء إذا شعرنا أن قدرات النماذج تفوق وتيرة الأمان والمواءمة. نهتم بعمق بسلامة الذكاء الاصطناعي.
واضاف: نعتقد أن المجال بأكمله سيتعين عليه التنسيق حول معايير أمان مشتركة، لكننا سنعمل بشكل فردي في الوقت الحالي".
