מאקרו טכנולוגי
התנגשות ערכים: המכונית האוטונומית ניצבת בפני התלבטות מוסרית
מה יקרה כאשר המכונית האוטונומית תעמוד בפני תאונה ותצטרך להכריע כיצד לנהוג? מתכנתים מפתחים אלגוריתם בשם "אופטימיזציה של התנגשות" שימצא את האפשרות בה היא תסב הכי פחות נזק
1. כרוניקה של תאונה ידועה מראש. אי שם במרתפים האפלים של חברות הטכנולוגיה יושבים הוגי המכוניות האוטונומיות ומחברים את האלגוריתם שזכה לשם המאיים "אופטימיזציה של התנגשות". מחקרים מראים שמכוניות ללא נהג יצמצמו את מספר תאונות הדרכים, אבל ההנחה היא שבהינתן מכוניות תמיד יהיו תאונות. בהיעדר נהג, על המכונית להחליט בעצמה כיצד לנהוג בסיטואציה שבה בכל מקרה יהיו נפגעים, ולמצוא את האפשרות שתסב הכי פחות נזק.
ההחלטה אינה של הנהג
2. התלבטות מוסרית. יום שטוף שמש, המכונית האוטונומית משייטת בכבישי פאולו אלטו, ולפתע מתפרץ מישהו לכביש. כעת עומדות בפני המכונית שלוש אפשרויות: להמשיך ישר ולפגוע בהולך הרגל, לסטות שמאלה ולפגוע ברוכבת אופנוע או לסטות ימינה ולהתנגש חזיתית בחומת בטון ולגרום נזק ליושבים ברכב. ומה אם הולך הרגל הוא ילד? ואולי רוכב האופנוע אינו חובש קסדה? ההחלטה המלאכותית של המכונית הופכת להחלטה מוסרית.
3. הוראות שימוש. לכשיושלם האלגוריתם הרה הגורל הזה, סביר שיצרני המכוניות יידרשו לחשוף אותו לציבור, ואולי אפילו לצרף לכל כלי רכב "הוראות שימוש" שמפרטות את הקוד האתי שלו. להבדיל מנהג אנושי, שדרך קבלת ההחלטות שלו אינה תהליך לוגי לינארי לחלוטין גם בסיטואציות בעלות מרכיבים זהים, האלגוריתם שמאחורי המכונית יגיע תמיד לאותה החלטה.
המכונית של גוגל. חישוב לוגי
4. אוקסימורון. צרכני המכוניות העתידיים יעמדו בפני החלטה משלהם: אם האלגוריתם מוטה לגרימת נזק ליושבים במכונית, כיצד הדבר ישפיע על ההחלטה לרכוש רכב כזה? אם האלגוריתם משקלל את חבישת הקסדה של רוכבת האופנוע וימנע מלפגוע ברוכבת ללא קסדה, עולה החשש שרוכבות עלולות להעדיף שלא להשתמש בקסדה באזורים שבהם יש רוב למכוניות אוטונומיות.
5. הצרכנים יכריעו. במקרה הטוב יתעורר דיון ציבורי ער על האופטימיזציה של ההתנגשות. הקהל הרחב יהיה מודע להשלכות של קניית מכונית אוטונומית, ישמיע את קולו, ישפיע על היצרניות ובסוף אפילו יבצע בחירה מודעת ומושכלת בבואו להחליט אם לקנות רכב אוטונומי. במקרה הרע, גורלו של הקוד האתי המפורט והארוך יהיה דומה לזה של "תנאי השימוש" שמופיעים בכל התקנה של תוכנה, ושאיש מעולם לא טורח לקרוא.
