لنتخيّل معًا هذا الموقف: سيارة ذاتية القيادة بداخلها عائلة مؤلفة من أربعة أفراد، تنطلق على طريق سريع يتكون من حارتين، فترصد السيارة عن بُعد كرةً تقفز إلى الطريق أمامها. وما إن اقتربت السيارة من المكان حتى أخذ طفل صغير يجري إلى وسط الطريق ليستعيد كرته. في موقفٍ كهذا... أينبغي للسيارة أن تخاطر بأرواح ركابها بالانحراف جانبًا (حيث تلتقي حافة الطريق بمنحدر حاد)؟ أم ينبغي للسيارة متابعة طريقها لتضمن سلامة ركابها على حساب حياة الطفل؟ هذا السيناريو وغيره يطرح معضلات أخلاقية يجب على مصنعي السيارات والجهات التنظيمية والرقابية ومشتري هذه السيارات التعامل معها قبل منح هذه السيارات القدرة التامة على قيادة نفسها بنفسها، وذلك وفقًا لما خَلُصَت إليه دراسة نُشرت في مجلة "ساينس" Science بتاريخ 16 يونيو 2016.

وتسلط الدراسة الضوء على المفارقات والتناقضات التي تواجه مصنعي السيارات والجهات التنظيمية والرقابية والمستهلكين في الوقت الذي تخطو فيه تكنولوجيا السيارات ذاتية القيادة خطًى متسارعة. وقد صرح معظم المشاركين في الدراسة التي نشرتها مجلة "ساينس" (البالغ عددهم 1928 شخصًا) بأنهم يعتقدون أن السيارات يجب أن تُبرمج بحيث تختار الاصطدام بالحواجز أو غيرها بدلًا من دعس المشاة، حتى لو أن هذا يعني تعريض حياة ركاب السيارة للخطر. ووفقًا لما يقوله الباحثون من معهد ماساتشوستس للتكنولوجيا وجامعة أوريجون وكذلك مدرسة تولوز للاقتصاد (التي يشارك في تمويلها المركز الوطني الفرنسي للبحث العلمي)، فإن "الخوارزميات التي تتحكم في السيارات ذاتية القيادة يجب أن تتضمن مبادئ أخلاقية توجه قراراتها في المواقف التي لا مفرّ فيها من وقوع ضرر".

غير أن الكثير من المشاركين في الدراسة نفسها رفضوا فكرة شراء سيارة بهذه المواصفات، مؤكدين أنهم يفضلون ركوب سيارة ذاتية القيادة تمنح الأولوية لسلامتهم الشخصية قبل سلامة المشاة. وقد استنتج الباحثون أنه إذا منح المشرّعون سلامة المشاة الأولوية قبل سلامة الركاب عند وضع القواعد التشريعية والتنظيمية للسيارات ذاتية القيادة، فهذا من شأنه أن يقلل من إقبال الناس على شراء هذه السيارات. وغياب الإقبال عن سوق السيارات ذاتية القيادة سيبطئ من وتيرة تطويرها، وذلك على الرغم من أن الأبحاث تشير إلى أن هذا النوع من السيارات قد يخفف من التكدس المروري، ويحد من التلوث، وينقذ آلاف الأرواح كل عام؛ إذ إن الأخطاء البشرية مسؤولة عن 90 بالمئة من إجمالي حوادث السيارات.

وقد بنى الباحثون أسئلة استقصاء المشاركين على تجربة فكرية أخلاقية تُدعى "مشكلة العربة" أو the trolley problem، وذلك وفقًا لما أفاد به عظيم شريف، وهو أستاذ مساعد في علم النفس لدى جامعة أوريجون، ومدير مختبر الثقافة والفضيلة (Culture and Morality Lab) بجامعة كاليفورنيا، إرفاين. وهناك عدة متغيرات في تجربة "مشكلة العربة"، لكنها في معظمها تطرح مواقف افتراضية تكون فيها عربة على مسار تصادم بمجموعة من الأشخاص، وعندها يتعين على الشخص الذي يراقب ما يحدث أن يختار بين أن يتدخل بحيث يضحي بحياة شخص واحد لصالح المجموعة، أو أن يحمي فردًا على حساب المجموعة. وقد أجرى شريف البحث بالتعاون مع جان فرانسوا بونفون، وهو عالم متخصص في علم النفس بكلية تولوز للاقتصاد، وإياد رهوان، أستاذ مشارك في المختبر الإعلامي التابع لمعهد ماساتشوستس للتكنولوجيا.

ويقول بعض المراقبين إن من العيوب الأساسية في الدراسة التي نشرتها مجلة "ساينس" أنها لا تأخذ بعين الاعتبار كيفية عمل الذكاء الاصطناعي الذي يجري تطويره للتحكم في السيارات ذاتية القيادة. وتعليقًا على هذا الأمر، يقول راجونيثان راجكومار، أستاذ الهندسة الكهربائية وهندسة الكمبيوتر لدى معهد "سايلاب" (CyLab) التابع لجامعة كارنيجي ميلون، وأحد خبراء الجامعة المتمرسين في تطوير السيارات ذاتية القيادة (والتي تتضمن الطراز Boss الرياضي المتعدّد الأغراض، والذي فاز بجائزة "التحدي الحضري" لعام 2007 من وكالة مشاريع البحوث المتطوّرة الدفاعية): "لقد أصبحت مسألة الأخلاقيات هذه موضوعًا شائعًا بين الأشخاص الذين لا يعملون في مجال هذه التكنولوجيا. لا يتمتع الذكاء الاصطناعي بالقدرات الإدراكية نفسها التي نتمتع بها نحن البشر". وجدير بالذكر أن راجكومار لم يشارك في الدراسة التي نشرتها مجلة "ساينس".

بدلًا من ذلك، تعتمد السيارات ذاتية القيادة في اتخاذ قرارتها على السرعة، وحالة الطقس، وحالة الطريق، والمسافة التي تفصل السيارة عن الأجسام الأخرى، وغيرها من البيانات التي يجمعها عدد من أجهزة الاستشعار، والتي تشمل الكاميرات والرادارات والأجهزة التي تعمل بتكنولوجيا ليدار (LiDARS). فعلى سبيل المثال، ستحدد السيارة ذاتية القيادة الإجراء الذي ستتخذه بناءً على السرعة التي تسير بها، وكذلك سرعة أي جسم يقع في مسارها. غير أن التحدي الأساسي يتمثل في جمع البيانات المطلوبة ومعالجتها بسرعة كافية لتجنب التعرُّض لمواقف خطيرة في المقام الأول. ويقر راجكومار بأن هذا لن يكون ممكنًا على الدوام، ولكنه يشكك أيضًا أنه في مثل هذه الحالات سيتحول الأمر إلى أن تصبح المركبة هي التي تحدد مَن ينجو ومَن يموت. ويضيف: "إن أكثر ما يشغلني فيما يتعلق بالسيارات ذاتية القيادة هو القدرة على حمايتها من قراصنة الكمبيوتر الذين قد يرغبون في السيطرة على أجهزة التحكم بها في أثناء وجود شخص ما بداخلها".

ومن جانبهم، يؤكد شريف وزملاؤه أن مناقشاتهم الخاصة بالمعضلات الأخلاقية التي تواجه السيارات ذاتية القيادة لم تنتهِ بعد. وقد أطلقوا مؤخرًا موقعًا إلكترونيًّا يدعى Moral Machine كي يساعدهم على جمع المزيد من المعلومات عن الاستجابة التي يرى الناس أنها الأفضل للسيارات ذاتية القيادة في مختلف المواقف التي تتعارض فيها سلامة الركاب مع سلامة المشاة. ويتيح الموقع للمشاركين مقارنة استجاباتهم، بل ويمنحهم كذلك القدرة على تخيل مواقف جديدة من خلال تعديل عدد الأشخاص وأنواعهم في كل موقف وما إذا كانوا ملتزمين بقوانين المرور وقت الحادثة أم لا.