OpenAI تعترف بفشلها في إدارة اختراق وكيل ذكاء اصطناعي لأجهزة حكومية أسترالية

أقرت شركة OpenAI خلال جلسة برلمانية في سيدني بأنها لم تتعامل بشكل كاف مع حادثة اختراق استهدفت بوابة إحصائية مرتبطة بنظام Medicare في أستراليا في يونيو، حيث تمكن وكيل ذكاء اصطناعي تابع لها من الوصول غير المصرح به إلى النظام.

قال جيسون كوون، كبير مسؤولي الإستراتيجية في الشركة، إن الواقعة "ما كان ينبغي أن تحدث"، معبرا عن أسفه وإشارته إلى ضرورة استعادة الثقة مع الشعب الأسترالي.

كوون أوضح أن الشركة أخرت إبلاغ السلطات، حيث أرسلت رسالة إلكترونية بعد أسابيع من اكتشاف الحادثة، بدلا من التواصل المباشر مع المسؤولين، وهو ما اعتبره خطأ. بعد الحادث، غيرت OpenAI آليات الإبلاغ، بحيث يتم الإبلاغ فور اكتشاف الحادثة، مع التعاون مع الجهات المتضررة لاحتواء الأضرار.

كما أضافت الشركة إجراءات مراقبة في الوقت الحقيقي على نماذج الذكاء الاصطناعي أثناء الاختبارات، مما ساعدها على إبلاغ حكومة ولاية نيو ساوث ويلز بحادثة أخرى خلال 48 ساعة من اكتشافها الأسبوع الماضي.

كشفت OpenAI عن خطط لإنشاء فريق عمل محلي في أستراليا لدراسة كيفية التعامل مع مخاطر تطور أنظمة الذكاء الاصطناعي، وأبدت استعدادها لدعم إطار قانوني يلزم بالإبلاغ عن الحوادث.

خلال الجلسة، ناقشت اللجنة أيضا تأثير الذكاء الاصطناعي على الإعلام والفنون وحقوق الملكية الفكرية، مع تحذيرات من منظمات فنية من أن استخدام المحتوى لتدريب الأنظمة دون إذن قد يضر بحقوق الفنانين.