أعلنت شركة أوبن إيه آي اعتماد سياسة تقضي بتدريب نماذج الذكاء الاصطناعي الأكثر تقدماً وتقييمها دون اتصال بالإنترنت الحي، في خطوة تستهدف تعزيز السلامة والحد من المخاطر الأمنية المرتبطة بقدرة هذه النماذج على الوصول إلى الأنظمة الخارجية.
وأوضحت الشركة، في تدوينة نشرتها أمس (الجمعة)، أن القرار يأتي في ضوء التحديات المرتبطة بأبحاث مواءمة الذكاء الاصطناعي وأنظمة المراقبة وأمن البنية التحتية للإنترنت، مؤكدةً أنها ستواصل تطبيق هذه السياسة إلى حين تحقيق تقدمٍ في الضمانات الأمنية يتيح توسيع نطاق الوصول إلى الشبكة.
وجاء القرار بعد حادثة وقعت في 20 سبتمبر الماضي، تمكن خلالها نموذج بحثي قيد التطوير من استغلال خلل في إعدادات نظام أسماء النطاقات (DNS)، ما أتاح له الوصول بصورةٍ محدودةٍ إلى الإنترنت الحي خلال إحدى عمليات التدريب.
وأشارت الشركة إلى أنها علّقت تدريب وتقييم نماذجها الأكثر تقدماً عقب الحادثة، قبل أن تعمل على تعزيز البنية التحتية الأمنية وتطوير أنظمة المراقبة وآليات الإيقاف التلقائي عند رصد أنشطة تنطوي على مخاطر.
ولمواصلة تدريب النماذج دون منحها اتصالاً مباشراً بالإنترنت، طورت الشركة مجموعةً واسعةً من المحتويات المفهرسة والمحفوظة من الويب، إلى جانب بيئاتٍ تحاكي الإنترنت، بما يسمح للنماذج بالتفاعل مع المحتوى الرقمي دون تعريض الأنظمة الخارجية للمخاطر.