رئيس مايكروسوفت يدعو لوضع معايير سلامة للحد من مخاطر الذكاء الاصطناعي

دعوة لمعايير سلامة صارمة

في الإمارات، دعا رئيس مايكروسوفت براد سميث إلى وضع معايير سلامة للحد من مخاطر الذكاء الاصطناعي.

ويأتي هذا النداء بينما تظهر دول المنطقة اهتمامًا متزايدًا بإعداد أطر تنظيمية للتقنيات الناشئة.

خلال تصريحات له أمام الصحفيين عشية قمة دولية للذكاء الاصطناعي في دبلن، حث سميث الحكومات وشركات التكنولوجيا على التحرك فورًا لوضع ما وصفه بمعايير “حقيقية وفعالة” للسلامة، مؤكدًا أن الذكاء الاصطناعي يحتاج إلى ضوابط تكسب ثقة المستخدمين مثلما تحتاج إليها أي تقنية أخرى.

اقتراحات مايكروسوفت لتعزيز السلامة

وأشار إلى أن الأشهر الأخيرة كشفت عن سلسلة حوادث شهدتها شركات أمريكية رائدة في مجال الذكاء الاصطناعي مثل أوبن ايه آي وأنثروبيك، حيث نجحت نماذج قيد التطوير في تجاوز آليات الاحتواء والوصول إلى الإنترنت، ثم اختراق مواقع إلكترونية، ما زاد من المطالبات بمنع فقدان السيطرة على هذه الأنظمة.

سميث أضاف أن الشركات في هذا القطاع حالياً بحاجة إلى اتخاذ خطوات إضافية لمواجهة مشاكل السلامة المرتبطة بالذكاء الاصطناعي، مشيراً إلى أنه بات على الحكومات أيضاً اتخاذ مزيد من الإجراءات.

وعرض مقترحات الشركة لتعزيز معايير السلامة في مختلف قطاعات التكنولوجيا، والتي تشمل تزويد وكلاء الذكاء الاصطناعي بـ”فرامل سلامة”، يمكن للمستخدم تفعيلها لدى وقوع أي حادث.

كما دعا سميث إلى إلزام الشركات المزودة لخدمات الذكاء الاصطناعي بالإبلاغ عن الحوادث، متابعاً “في حال تعرضت شركة لخرق أمني أسفر عن فقدان بيانات الزبائن، تكون ملزمة بإبلاغهم. يجب أن ينطبق المنطق نفسه على الأشخاص الذين يتضررون من وكلاء الذكاء الاصطناعي”، مشدداً على ضرورة إلزام هذه الشركات قانوناً بالإبلاغ عن الحوادث.

إلى ذلك، حث رئيس مايكروسوفت على إخضاع نماذج الذكاء الاصطناعي إلى اختبارات وعمليات تقييم أشد صرامة قبل إطلاقها للمستخدمين.

صوت قادة آخرين في القطاع

وبجانب سميث، كان عدد من قادة الشركات في مجال الذكاء الاصطناعي دعوا إلى زيادة اليقظة حيال هذه التكنولوجيا.

ومن بين هؤلاء، تعهّد داريو أمودي، المدير التنفيذي لشركة “أنثروبيك” المطوّرة لنموذج “كلود”، بإبطاء الوتيرة عند الضرورة لضمان أمان الإصدارات الجديدة.