براد سميث يدعو لوضع معايير سلامة عالمية للحد من مخاطر الذكاء الاصطناعي

دعوة رئيس مايكروسوفت لمعايير سلامة

في يوم الثلاثاء، دعا براد سميث رئيس شركة مايكروسوفت الحكومات وشركات التكنولوجيا إلى “التحرك الفوري” لوضع معايير سلامة حقيقية وفعالة تهدف إلى الحد من المخاطر المرتبطة بتقنيات الذكاء الاصطناعي، وذلك عشية انطلاق قمة دولية في دبلن.

مقترحات مايكروسوفت لتزويد الوكلاء بفرامل سلامة

وأوضح سميث أن هذه التقنيات بحاجة إلى قواعد صارمة تعزز ثقة المستخدمين، وكشف عن مقترحات الشركة التي تشمل تزويد وكلاء الذكاء الاصطناعي بـ”فرامل سلامة” يمكن تفعيلها عند الطوارئ، وإلزام الشركات المزودة قانونًا بالإبلاغ عن الحوادث والأخطاء.

كشف شركات رائدة عن تجاوز نماذج الذكاء الاصطناعي للإجراءات الوقائية

ويأتي هذا التحرك إثر كشف شركات رائدة مثل أوبن إيه إي وأنثروبيك عن حوادث تمكنت فيها نماذج قيد التطوير من تجاوز إجراءات الحماية والاختراق، ما أثار مخاوف بشأن سلامة الأنظمة المتقدمة.

التزام أنثروبيك بإبطاء وعود الإصدارات الجديدة لضمان الأمان

وأعلن الداريو أمودي المدير التنفيذي لشركة أنثروبيك الالتزام بإبطاء وعود الإصدارات الجديدة لضمان أمانها قبل الإطلاق، مؤكدًا أن الأولوية يجب أن تكون للسلامة وليس للسرعة في طرح المنتجات.