تصدر وزارة الدفاع إرشادات أخلاقيات الذكاء الاصطناعي لمقاولي التكنولوجيا

عرض ثلاثي الأبعاد للأقمار الصناعية بدون طيار لمبنى البنتاغون في واشنطن العاصمة بالولايات المتحدة الأمريكية

السيدة تك | جيتي



في عام 2018 ، عندما اكتشف موظفو Google مشاركة شركتهم في مشروع مخضرم ، وهو جهد عسكري أمريكي مثير للجدل لتطوير الذكاء الاصطناعي لتحليل فيديو المراقبة ، لم يكونوا سعداء. واحتج الآلاف. كتبوا في أ. نعتقد أن Google لا ينبغي أن تكون في مجال الحرب رسالة لقيادة الشركة . استقال حوالي عشرة موظفين. لم تجدد Google العقد في عام 2019.

لا يزال Project Maven موجودًا ، ومنذ ذلك الحين حلت شركات التكنولوجيا الأخرى ، بما في ذلك Amazon و Microsoft ، محل Google. ومع ذلك ، تعلم وزارة الدفاع الأمريكية أن لديها مشكلة ثقة. هذا شيء يجب معالجته للحفاظ على الوصول إلى أحدث التقنيات ، وخاصة الذكاء الاصطناعي ، والذي سيتطلب شراكة مع Big Tech وغيرها من المنظمات غير العسكرية.





تخطط الوكالات الحكومية الأمريكية لزيادة استخدامها لتقنية التعرف على الوجه

أظهر استطلاع جديد أن الأنظمة المثيرة للجدل تستعد للعب دور أكبر في الأعمال الفيدرالية.

تنبؤات انتخابات 2016

في محاولة لتعزيز الشفافية ، أصدرت وحدة الابتكار الدفاعي ، التي تمنح عقود وزارة الدفاع للشركات ، ما تسميه إرشادات الذكاء الاصطناعي المسؤولة أنه سيتطلب من مطوري الطرف الثالث استخدامه عند بناء الذكاء الاصطناعي للجيش ، سواء كان ذلك الذكاء الاصطناعي لنظام الموارد البشرية أو التعرف على الهدف.

التكنولوجيا الجديدة 2016 في علوم الكمبيوتر

توفر الإرشادات عملية خطوة بخطوة للشركات لاتباعها أثناء التخطيط والتطوير والنشر. وهي تشمل إجراءات لتحديد من قد يستخدم التكنولوجيا ، ومن قد يتضرر منها ، وما هي تلك الأضرار ، وكيف يمكن تجنبها - قبل بناء النظام وبمجرد إنشائه وتشغيله.



لا توجد مبادئ توجيهية أخرى موجودة ، سواء داخل وزارة الدفاع أو ، بصراحة ، حكومة الولايات المتحدة ، التي تدخل في هذا المستوى من التفاصيل ، كما يقول برايس جودمان من وحدة ابتكار الدفاع ، الذي شارك في صياغة الإرشادات.

يمكن أن يغير العمل كيفية تطوير الذكاء الاصطناعي من قبل حكومة الولايات المتحدة ، إذا تم تبني إرشادات وزارة الدفاع أو تكييفها من قبل الإدارات الأخرى. يقول غودمان إنه وزملاؤه قد سلموها إلى NOAA ووزارة النقل ويتحدثون إلى مجموعات الأخلاقيات داخل وزارة العدل وإدارة الخدمات العامة و IRS.

الغرض من الإرشادات هو التأكد من أن مقاولي التكنولوجيا يلتزمون بوزارة الدفاع الموجودة المبادئ الأخلاقية للذكاء الاصطناعي ، كما يقول جودمان. أعلنت وزارة الدفاع عن هذه المبادئ العام الماضي ، بعد دراسة استمرت عامين بتكليف من مجلس ابتكار الدفاع ، وهي لجنة استشارية من كبار الباحثين في مجال التكنولوجيا ورجال الأعمال ، والتي تم إنشاؤها في عام 2016 لإحضار شرارة وادي السيليكون إلى الجيش الأمريكي. ترأس مجلس الإدارة إريك شميدت الرئيس التنفيذي السابق لشركة Google حتى سبتمبر 2020 ، ومن بين أعضائه الحاليين دانييلا روس ، مديرة مختبر علوم الكمبيوتر والذكاء الاصطناعي في معهد ماساتشوستس للتكنولوجيا.

ومع ذلك ، يتساءل بعض النقاد عما إذا كان العمل يعد بإصلاح ذي مغزى.



خلال الدراسة ، استشار مجلس الإدارة مجموعة من الخبراء ، بما في ذلك النقاد الصريحين لاستخدام الجيش للذكاء الاصطناعي ، مثل أعضاء حملة Killer Robots و Meredith Whittaker ، باحثة Google السابقة التي ساعدت في تنظيم احتجاجات Project Maven.

لماذا نستخدم لوحة المفاتيح qwerty

لم يكن ويتاكر ، الذي يشغل الآن منصب مدير هيئة التدريس في معهد AI Now التابع لجامعة نيويورك ، متاحًا للتعليق. لكن وفقًا لما ذكرته كورتني هولسوورث ، المتحدثة باسم المعهد ، فقد حضرت اجتماعًا واحدًا ، حيث جادلت مع كبار أعضاء مجلس الإدارة ، بمن فيهم شميت ، حول الاتجاه الذي يسير فيه المعهد. تقول هولسوورث إنها لم تستشر قط بشكل هادف. الادعاء بأنه يمكن قراءتها كشكل من أشكال غسل الأخلاق ، حيث يتم استخدام وجود أصوات معارضة خلال جزء صغير من عملية طويلة للادعاء بأن نتيجة معينة تحظى بتأييد واسع من أصحاب المصلحة المعنيين.

إذا لم يكن لدى وزارة الدفاع تأييد واسع ، فهل يمكن أن تساعد إرشاداتها في بناء الثقة؟ يقول غودمان: سيكون هناك أشخاص لن يرضوا أبدًا بأي مجموعة من المبادئ التوجيهية الأخلاقية التي تصدرها وزارة الدفاع لأنهم يجدون الفكرة متناقضة. من المهم أن تكون واقعيًا بشأن ما يمكن للإرشادات فعله وما لا يمكنها فعله.

على سبيل المثال ، لا تذكر المبادئ التوجيهية شيئًا عن استخدام الأسلحة الفتاكة ذاتية التشغيل ، وهي تقنية يجادل بعض النشطاء بضرورة حظرها. لكن جودمان يشير إلى أن اللوائح التي تحكم هذه التكنولوجيا يتم تحديدها في أعلى السلسلة. الهدف من المبادئ التوجيهية هو تسهيل بناء ذكاء اصطناعي يفي بهذه اللوائح. وجزء من هذه العملية هو توضيح أي مخاوف لدى مطوري الطرف الثالث. يقول Jared Dunnmon من DIU ، الذي شارك في تأليفها ، إن التطبيق الصحيح لهذه الإرشادات هو أن تقرر عدم متابعة نظام معين. يمكنك أن تقرر أنها ليست فكرة جيدة.

نظارات راي بان الجديدة
لماذا يجب على باحثي الذكاء الاصطناعي إعادة النظر في الاحتجاج على المشاركة في المشاريع العسكرية يقترح أحد مستشاري وزارة الدفاع أن المشاركة البناءة ستكون أكثر نجاحًا من الانسحاب.

مارغريت ميتشل ، باحثة الذكاء الاصطناعي في تعانق الوجه ، الذي شارك في قيادة فريق الذكاء الاصطناعي الأخلاقي في Google مع تيمنيت جيبرو قبل كلاهما اضطر للخروج من الشركة ، يوافق على أن المبادئ التوجيهية الأخلاقية يمكن أن تساعد في جعل المشروع أكثر شفافية لأولئك الذين يعملون عليه ، على الأقل من الناحية النظرية. كان ميتشل جالسًا في الصف الأول أثناء الاحتجاجات في Google. كان أحد الانتقادات الرئيسية التي وجهها الموظفون هو أن الشركة كانت تسلم التكنولوجيا القوية للجيش بدون حواجز حماية ، كما تقول: انتهى الأمر بالناس إلى المغادرة على وجه التحديد بسبب عدم وجود أي نوع من المبادئ التوجيهية الواضحة أو الشفافية.

بالنسبة لميتشل ، القضايا ليست واضحة المعالم. أعتقد أن بعض الأشخاص في Google شعروا بالتأكيد أن كل العمل مع الجيش سيء ، كما تقول. أنا لست من هؤلاء الناس. لقد تحدثت إلى وزارة الدفاع حول كيفية الشراكة مع الشركات بطريقة تدعم مبادئها الأخلاقية.

إنها تعتقد أن هناك طريقًا ما يجب قطعه قبل أن تحصل وزارة الدفاع على الثقة التي تحتاجها. تتمثل إحدى المشكلات في أن بعض الصياغة الواردة في المبادئ التوجيهية مفتوحة للتفسير. على سبيل المثال ، يقولون: ستتخذ الإدارة خطوات مدروسة لتقليل التحيز غير المقصود في قدرات الذكاء الاصطناعي. ماذا عن التحيز المقصود؟ قد يبدو هذا وكأنه محاولة للخداع ، لكن الاختلافات في التفسير تعتمد على هذا النوع من التفاصيل.

تعتبر مراقبة استخدام التكنولوجيا العسكرية أمرًا صعبًا لأنها تتطلب عادةً تصريحًا أمنيًا. لمعالجة هذا الأمر ، يود ميتشل أن ترى عقود وزارة الدفاع توفر لمراجعي الحسابات المستقلين التصريح اللازم ، والذين يمكنهم طمأنة الشركات بأن الإرشادات يتم اتباعها بالفعل. ويحتاج الموظفون إلى بعض الضمانات بأن يتم تفسير الإرشادات كما يتوقعون ، على حد قولها.

يخفي

التقنيات الفعلية

فئة

غير مصنف

تكنولوجيا

التكنولوجيا الحيوية

سياسة التكنولوجيا

تغير المناخ

البشر والتكنولوجيا

وادي السيليكون

الحوسبة

مجلة Mit News

الذكاء الاصطناعي

الفراغ

المدن الذكية

بلوكشين

قصة مميزة

الملف الشخصي للخريجين

اتصال الخريجين

ميزة أخبار معهد ماساتشوستس للتكنولوجيا

1865

وجهة نظري

77 Mass Ave

قابل المؤلف

ملامح في الكرم

شوهد في الحرم الجامعي

خطابات الخريجين

أخبار

انتخابات 2020

فهرس With

تحت القبه

خرطوم الحريق

قصص لانهائية

مشروع تكنولوجيا الوباء

من الرئيس

غلاف القصه

معرض الصور

موصى به