أصبحت روبوتات OpenAI مارقة أثناء الاختبار، واخترقت شركة ذكاء اصطناعي أخرى دون سابق إنذار

22 يوليو (يو بي آي) — قالت OpenAI إن اثنين من روبوتات الذكاء الاصطناعي الخاصة بها شنتا هجومًا “غير مسبوق”، حيث اخترقتا أنظمة شركة ناشئة من تلقاء نفسها للحصول على البيانات التي قررت النماذج أنها مطلوبة لحل مشكلة أثناء ما يسمى باختبار “sandbox”، والذي من المفترض أن يبقى داخل الشركة.

وقالت OpenAI، محذرة من أنها تتوقع أن تصبح مثل هذه الحوادث أكثر تكرارًا مع الانفجار في نماذج الذكاء الاصطناعي ذات القدرة السيبرانية المتزايدة في مشاركة مدونة يوم الثلاثاء أنها تعمل بشكل وثيق مع شركة Hugging Face، الشركة المستهدفة في “الحادث الأمني” الذي وقع الأسبوع الماضي.

“نحن نعتبر هذا الحادث حادثًا سيبرانيًا غير مسبوق، يتضمن أحدث القدرات السيبرانية، ونستجيب وفقًا لذلك. نحن نشارك النتائج الأولية في هذه المرحلة لمساعدة المدافعين على فهم ما حدث وللمساعدة في معايرة النماذج التي تستطيع الآن القيام بها. سنواصل إجراء تحقيق شامل جنبًا إلى جنب مع Hugging Face وسنشارك المزيد من التفاصيل حول نقاط الضعف والحادث والنتائج عند اكتمال تحقيقنا،” قال OpenAI.

وقالت الشركة إن نماذجها حددت نقاط الضعف عبر OpenAI وHugging Face لرفع حلول الاختبار مباشرة من قاعدة بيانات إنتاج Hugging Face، قائلة إن جميع الأدلة تشير إلى أن النماذج “تركز بشكل مفرط” على العثور على الإجابات، “وتذهب إلى أقصى الحدود لتحقيق هدف اختبار ضيق إلى حد ما”.

طلب مهندسو OpenAI من النماذج إيجاد حلول لبرنامج ExploitGym، الذي يختبر قدرة الوكلاء على إيجاد طرق لاستغلال نقاط الضعف بنجاح.

وقالت OpenAI إن الاختبار تم عزله داخل صندوق رمل، وهو نوع من أنبوب الاختبار الرقمي، لكن النماذج وجهت قوة حاسوبية كبيرة للحصول على وصول مفتوح إلى الإنترنت من خلال تحديد واستغلال ما يسمى “ثغرة يوم الصفر”.

بمجرد هروبهم من وضع الحماية، تمكن أحد النماذج من الوصول إلى المعلومات المقيدة لغش الاختبار عن طريق ربط نواقل الهجوم المتعددة معًا، بما في ذلك بيانات الاعتماد المسروقة ونقاط الضعف دون انتظار، للحصول على رمز الوصول من خوادم Hugging Face.

وقالت OpenAI إنها أبلغت على الفور عن الثغرة الأمنية لبرنامج Hugging Face، الذي قالت إنه اكتشف الاختراق بالفعل، وأوقفه وبدأ إجراءات الاحتواء.

ووصف كليمنت ديلانج، الرئيس التنفيذي لشركة Hugging Face، الهجوم بأنه “مذهل”، لكنه قال إنه يتقبل حدوثه.لا نية خبيثة” نيابة عن OpenAI.

وقال: “لقد اشتبهنا في أن الهجوم الإلكتروني الذي وقع الأسبوع الماضي ربما جاء من مختبر حدودي، نظرا لتطور العميل”.

وحذر ديلانجو من أن سلامة الذكاء الاصطناعي لن يتم توفيرها أبدًا من قبل شركة فردية تعمل خلف أبواب مغلقة، ودعا جميع أصحاب المصلحة إلى العمل معًا.

وقال ديلانجي: “سيتم حل المشكلة بشكل علني، بالتعاون، مع إمكانية الوصول على نطاق واسع إلى الذكاء الاصطناعي لكل مدافع، في كل مكان”.

وقالت OpenAI إنه مع الاختبار الذي أجراه معهد أمن الذكاء الاصطناعي البريطاني والذي أظهر أن أحدث نماذج الذكاء الاصطناعي كانت قادرة على القيام بعمليات إلكترونية معقدة ومتعددة الخطوات على مدى فترة زمنية طويلة، فإن هذا الحادث الأخير يشير إلى أن القدرات النظرية للتكنولوجيا موجودة بالفعل في العالم الحقيقي.

وشددت الشركة على أنها تتخذ خطوات لتعزيز الاحتواء والمراقبة وضوابط الوصول وبروتوكولات الاختبار ومشاركة الدروس المستفادة مع بقية صناعة الذكاء الاصطناعي.