אם מכונית אוטונומית תגרום לתאונה - מי אשם?

לא רק הנהגים בכביש הודאגו מהגילוי מהשבוע האחרון, שלפיו כל המכוניות שיוצרו מ-1996 עלולות לאפשר להאקרים להשתלט עליהן מרחוק. הדבר גם מעורר חששות בנוגע להיתכנותו של אחד הפרויקטים השאפתניים והמתוקשרים ביותר כיום בעולם הטכנולוגיה: מכוניות עצמאיות ללא נהג שיחליפו את המכוניות הקיימות כיום.

גרוע מכך, נראה שבעיות האבטחה הן רק קצה הקרחון, ושעליית המכוניות האוטונומיות מציבה בפני יצרניות רכב, מחוקקים ונוסעים דילמות מוסריות ומשפטיות מורכבות מאוד - שללא פתירתן החזון הזה פשוט לא ייצא לדרך.

איור: יונתן פופר

חברות ענק רבות עובדות כיום על פיתוח מכונית עצמאית. גוגל היא אחת הבולטות והוותיקות בתחום, ומכוניות פרי פיתוחה כבר נוסעות באופן מוגבל בכבישים בארה"ב (ואף שהיו מעורבות בכמה תאונות, אלו לא היו באשמתן). אובר מצדה הקימה מרכז מחקר בתחום עם אוניברסיטת קרנגי מלון היוקרתית (מה שצריך אולי להדאיג את הנהגים שעובדים איתה), ולפי דיווחים שונים אפילו אפל בתמונה ומנהלת מגעים לשיתוף פעולה עם BMW.

הדיווחים על פרצות אבטחה במכוניות הרגילות העלו, מטבע הדברים, חששות ברורים לגבי הסכנות שבמכוניות אוטונומיות. במכוניות שבהן הנהג לא נמצא בשליטה, ושבעתיד אולי לא יכילו הגה או דוושות גז ובלמים, היכולת של האקר להזיק גבוהה משמעותית. לא מדובר כאן על פריצה למחשב וגניבת מידע אישי, מעשה חמור בפני עצמו, אלא בהשתלטות על מכונה אימתנית שיכולה לשמש לפציעה ואף להריגה של אנשים.

מכונית אוטונומית של גוגל

ואולם בעיות האבטחה, מהותיות ככל שיהיו, הן לא המכשול הגדול ביותר שעומד בפני המכוניות העצמאיות. במאמר שפורסם השבוע ב-BBC מעלה כתב הטכנולוגיה מתיו וול סוגיה משמעותית שטרם נבחנה מספיק: מערך קבלת ההחלטות של מכוניות כאלה במצבים לא צפויים. מה אמורה, למשל, לעשות מכונית בלי נהג אם ילד מתפרץ פתאום לכביש ואין לה שהות לבלום בזמן?

האם עליה לסטות מנתיב הנסיעה ולהסתכן בפגיעה בהולכי רגל שעומדים בסמוך, או לסכן את נוסעיה שלה? ואולי היא צריכה להזיק לכמה שפחות אנשים, ולפגוע דווקא בילד תוך הגנה על הנוסעים ועוברי האורח? האם תקבל המכונית החלטה אחרת אם מדובר בכלב תועה? ומי בכלל יהיה זה שיתכנן את האלגוריתם שיקבע את הליך קבלת ההחלטות, מתכנת המכונית או מומחה לאתיקה?

מדובר בנושא שהופך בימים אלה לבוער כל כך, שיצרנית הרכב מרצדס דיימלר תקדיש לו ועידה מיוחדת בסתיו הקרוב - אם כי לאור חילוקי הדעות שמאפיינים פילוסופים וחוקרי אתיקה, ספק אם יהיו לה תוצאות משמעותיות.

האם אנחנו צריכים מכונית אוטונומית?

הסוגיה האתית פותחת גם דיון בשאלה משפטית: מי אחראי למעשי המכונית. אם מכונית עצמאית גרמה לתאונה עם נפגעים, מי אשם? הנוסע הוא לא נהג, הוא פסיבי ונתון לחסדי האלגוריתם. יצרנית הרכב אמנם הגדירה את מערכת התוכנה והאלגוריתם, אבל לא קיבלה את ההחלטה בזמן אמת. ואם היא בכל זאת אחראית, האם נכון להטיל אשמה על המפתח הבודד שאחראי לרכיב שגרם לתאונה? פתירת שאלה זו, שדורשת חקיקה מסועפת וקביעת תקנות בינלאומיות, עלולה להימשך עוד שנים רבות.

מי אשם במקרה של תאונה? צילום: shutterstock

לסוגיות משמעותיות אלו יש להוסיף סוגיות טכניות שעוד נותרו. מדובר בטכנולוגיה שעדיין לא הבשילה לחלוטין: גוגל, למשל, מודה שהמכוניות שלה לא יודעות לזהות ולעקוף מהמורות או לנסוע בתנאי ראות קשים כמו שלג, גשם וערפל. לדברי מומחים, אמצעי החישה של המכוניות הקיימות עובדים עד טווח של 300 מטר לכל היותר, דבר שיקשה את תפקודן במהירויות גבוהות. כמו כן, התעשייה טרם פיתחה סטנדרטים אחידים שיאפשרו למכוניות עצמאיות וליצרניות שונות לתקשר ביניהן ולשתף מידע כדי להעלות את רמת הבטיחות.

ולכל התהיות הללו צריך להוסיף שאלה בסיסית אחת: האם אנחנו בכלל רוצים מכונית ללא נהג? נכון, מכוניות עצמאיות חוסכות מאמץ ויש להן יתרונות רבים בכל הנוגע לבטיחות, הפחתת עומסים והרגעת העצבים. ובכל זאת אין שום ודאות שנהגים יוותרו בכזו קלות על השליטה ויעברו למושב הנוסע. בזמן שהן מקדישות משאבים ניכרים לפיתוח המכוניות העצמאיות ולפתרון הבעיות האתיות והמשפטיות, חברות הטכנולוגיה והרכב יצטרכו לברר ברצינות אם כשהן יגיעו סוף סוף לכביש מישהו בכלל יקנה אותן.