עידן המכונית המוסרית של גוגל: האם אנו משעבדים יצור תבוני?
המכוניות האוטונומיות של גוגל יהיו כל כך מוסריות שהן יסרבו לצאת מהחניה, אלגוריתם החיפוש של החברה רוצה לנחש מה אתם רוצים עוד לפני שבכלל חיפשתם משהו ומערכת הטיימס לומדת כמה קשה לסקר מלחמה בעידן פייסבוק
לדרוס או לא לדרוס, זו השאלה
המכוניות העצמאיות של גוגל כבר קיבלו אישור חוקי לנהיגה בשלוש מדינות בארה"ב, ותומכיהן של הגרוטאות (אחד הקולניים שבהם הוא מר אריק שמידט) שמכוניות אוטומטיות נוהגות הרבה יותר טוב מנהגים אנושיים. הן לא שותות בירה אחת יותר מדי לא נכנסות לפאניקה בגלל שצפרו להן מאחור ולא מאבדות שליטה.
אם כל זה נכון (אין מבחן סטטיסטי מוצלח), אז תוך כמה עשרות שנים סביר מאד להניח שמכוניות אוטומטיות יציפו את הארץ וסביר להניח שעל בני אדם בכלל ייאסר לנהוג. אחרי הכל, אם מכונה מסכנת בני אדם אחרים הרבה פחות מנהג אנושי, הבחירה לנהוג ולא להשאיר את הג'וב הזה למכונה היא בחירה לא מוסרית.
וכשזה יקרה, אומר הניו יורקר, יתחיל עידן שפילוסופים כבר תהו עליו רבות: עידן המכונה המוסרית. עידן שבו מכונות יצטרכו לקבל החלטות מוסריות. נניח, הוא שואל, שאתה דוהר על הכביש במכוניתך הרובוטית, כשלפתע מגיח למסלול שלך אוטובוס עמוס ילדי בית ספר. ההכרעה בידי המכונית שלך: האם היא סוטה הצידה, מה שיסכן את חייך, או ממשיכה במסלולה, מה שיסכן את חיי הילדים?
השאלה הזו עולה במשנה תוקף כאשר אנחנו מתחילים לדבר על כלי נשק חכמים. הפנטגון הצהיר לאחרונה שאין לו כל כוונה לפתח כלי נשק שיקבלו הוראות ירי באופן אוטונומי, ללא מפעיל אנושי, אבל אני חושב שזה יפתיע את הסוכנות למדענים מטורפים שלו, DARPA, שכבר ניסתה לפתח בעבר טנק חכם (ככל הנראה, לאחר כשלון ניסיונות שלה לשבט שריונרים חכמים).
הגישה לשאלה הזו מתחילה לעתים קרובות בשלושת חוקי הרובוטיקה המפורסמים של אסימוב. יש איתם שורה של בעיות. אחת מהן, כנראה הזניחה, היא שכרגע אין שום אפשרות לתכנת רובוט להבין את המושג "נזק" או "בן אדם". זה יעבור. בעיה חריפה הרבה יותר היא שהחוקים של אסימוב הופכים בעצם את הרובוטים לעבדים. זו לא בעיה כשמדובר בשואב אבק רובוטי שמנקה לך את השטיח וגר במטבח - אבל רובוט שמסוגל לקבל החלטות אתיות הוא במידה רבה, יצור תבוני. האם זה אתי לשעבד יצור כזה?
בעיה אחרת היא שהחוקים דורשים מרובוט לא לפגוע באדם "במעשה או במחדל". בני אדם עצמם לא מסוגלים לצפות את כל תוצאות מעשיהם; לדרוש מרובוט לעשות את זה יהיה קצת מוגזם. ולקינוח, ישנה בעיית התוצאה הבלתי צפויה, משתנה X: אם נתכנת מכונית כך שהמטרה העליונה שלה תהיה למנוע פגיעה בבעלים שלה בכל מחיר - היא פשוט תסרב לצאת מהחניה.
מדע בדיוני? להזכירכם, כשאסימוב כתב את החוקים שלו, גם מכוניות אוטונומיות היו מדע בדיוני.
הבו לי את חלומותיכם ושאיפותכם, אני צריכה לקטלג ולארכב אותם
מנוע החיפוש של גוגל עבר שיפורים משמעותיים בשנים האחרונות. הוא כבר מציג לכם את תוצאות החיפוש שלך לפני שהקלקתם enter, ומתאים אותן לפי חיפושים קודמים שביצעתם. זה אולי מונע מכם גישה למידע שאתה לא מקבל בדרך כלל, אבל מסייע למי שנוטה לחפש את אותם הדברים.
אבל מבחינת גוגל, זה ממש לא מספיק. החיפוש צריך להיות מהיר יותר, כדי להתאים לדור הסמארטפון. על כן רוצה מעצמת האינטרנט ללכת צעד אחד קדימה: גוגל לדעת מראש מה אתם רוצים.
גוגל רוצה ללמוד אתכם - ולקרוא אתכם עוד לפני שבכלל תחפשו צילום: shutterstock כפי שתוכנות מעקב אחרי תנועה כבר הוכיחו, רוב בני האדם הם יצורים צפוים להפתיע: יוצאים מהבית, נוסעים לעבודה אחרי מעבר בבית הספר או הגן של הילדים, יוצאים לארוחת צהרים, שבים מהעבודה הביתה. אחרי שלמדת את שגרת חייו של אדם, אתה יכול לנחש בדייקנות רבה למדי מה הוא עומד לעשות בשעות מסוימות - ואם אתה לא יכול לנחש בדיוק, אתה יכול להציג לו את האופציות המקובלות שלו.
זה יכול להיות מועיל. למשל, אם דוכן הסנדוויצ'ים החביב עליך עמוס כרגע בעלוקות שהקדימו אותך ביציאה אליו, גוגל תוכל להציע לך מקום אחר לאכול בו. לשם כך היא צריכה מהמשתמשים הרבה מאד מידע - הרבה יותר ממה שיש לה כעת. זה הולך להיות אם כל הוויתורים על פרטיות, אבל, כפי שכבר אמר מישהו, רוב בני האדם אינם רוצים חירות אלא אדונים נוחים. וגוגל מבטיחה להיות אדון נוח מאוד.
מדיה חדשה וישנה מתקשות להתערבב
כשיורים עליך משני הצדדים, אומרת האמרה הישנה, אתה כנראה עושה משהו נכון. זה המצב שבו מצאה את עצמה לאחרונה כתבת הניו יורק טיימס בישראל ובשטחים הפלסטיניים (החל מהערב: פלסטין?), ג'ודי רודורן.
רודורן היתה אחת הכתבות היחידות שפעלו בעזה במהלך מבצע "עמוד ענן" ("קלפי יצוקה 2, לחבריו") החודש. מאחר והיא פעילה מאוד ברשתות חברתיות, היא נחשפה לדברים שגרמו לה לפרסם כמה סטטוסים שנויים במחלוקת.
דייגים בחוף עזה. גם הסיקור מהשטח זוכה לאש צילום: איי פי
משמאל קפץ עליה רוגזו של הבלוג Mondoweiss של פיל ווייס (גילוי נאות: מכר וידיד), בעקבות הערה של רודורן על כך שנראה שהעזתים קיבלו באדישות את מותם של קרוביהם. מימין הסתער עליה האינקוויזיטור הגדול לזיהוי אנטישמים, ג'פרי גולדברג, שהתעצבן על כך שרודורן לא מסתפקת במקורות ההסברה הרגילים אלא, שומו שמיים, מעיזה לראיין גם פעילים פוליטיים בעזה.
כל זה גרם לניו יורק טיימס להתקף עצבים קל, עורכת בכירה הודיעה שבקרוב ימונה עורך שיעבור עם רודורן על מה שהיא כותבת במדיה החברתית. למה? משום שהטיימס "לא רוצה להיחשף למחשבות הבלתי מסוננות ובלתי ערוכות של כתב". וואלה.
לרוע מזלו של הטיימס, הנייטרליות הזו, שאולי התאימה לשנות החמישים, כבר לא מקובלת על הקוראים. הם רוצים שדברים יוצגו כפי שהם ונמאס להם מהמצב שבו פוליטיקאי עולה לשידור, משקר כהרגלו - והכתב פשוט מדווח על כך. התנהגות כזו, סבורים יותר ויותר קוראים, היא פשוט סיוע לשקרן. הטיימס מפעיל כמה בלוגים אינטליגנטיים מאוד, ונראה שהמתח בין שתי מערכות הערכים מתחיל לקרוע את העיתון.
לבדיקה מחודשת, ומהר
הטור הזה עמד כמה פעמים על הסכנה שנשקפת למערכת המשפטית הוותיקה בעולם, שיטת המושבעים, מפני המדיה החברתית. עקרון הבסיס של השיטה הוא שהמושבעים פוסקים רק על בסיס מה שהוצג להם בבית המשפט. מה שלא מופיע בו, לא רלוונטי.
מלכודת האינטרנט של מערכת המשפט צילום: shutterstock זה בעייתי מאוד בעידן שבו כל סמארטפון יכול לעשות חיפוש גוגל וכל מושבע יכול לתקשר עם העולם. במקרה ידוע לשמצה אחד, אחת המושבעות שאלה את חברי פייסבוק שלה האם להרשיע או לזכות נאשם. השופטים ועורכי הדין עומדים נדהמים מול התופעה. מחקר העלה ש-12% מהמושבעים מפרים את הכללים והולכים לחפש מידע ברשת - מידע שיכול להכריע גורלות ואיננו נתון לשום חקירה נגדית.
ועדה בבריטניה בודקת כעת מה ניתן לעשות ואיך אפשר להזכיר למושבעים מה תפקידם. היא שוקלת להפוך את החיפוש ברשת בעת משפט לעבירה שמושבעים יכולים לעמוד עליה לדין, כמו גם הנחיות תקיפות הרבה יותר מצד השופטים למושבעים. במקרי חירום, רוצה מערכת המשפט סמכות להסיר מהרשת מידע שעשוי להשפיע על המושבעים; לא ישים - ולא סביר. בהצלחה עם זה.
קצרצרים
1. פייסבוק צריכה יותר כסף, כדי שהמניות שלה לא ירדו שאולה. החברה נכנסה בכל הכוח לתחום הסלולר ומפציצה את משתמשי האפליקציות במודעות. כדי שהמשתמשים לא יוכלו להתעלם מהפלישה הזו לחיים שלהם, היא הופכת את המודעות לבולטות יותר. בינתיים היא רק משתמשת בהרבה יותר צבע, אבל בעתיד הן כנראה יהפכו למנתרות וצווחניות. לדעתי, עלינו לחבק את הבעסה: להקליק על המודעות, אבל לא לקנות כלום. אולי כך יבינו חברות הפרסום שלרדוף אחרינו בפייסבוק זה לא משתלם.
פייסבוק רוצה להציף אתכם בפרסומות צילום: shutterstock
2. כפי שכבר למדה גוגל, זה לא רעיון חכם לעצבן את ממשלת סין. חברת Solid Oak גילתה לפני שלוש וחצי שנים שממשלת סין גנבה את תוכנת סינון הרשת שלה, והתחילה להשמיע צווחות עולות ויורדות. הרודנות הגדולה בעולם ממש לא אהבה את תשומת הלב הזו: סוליד אווק דיווחה שמאז תחילת הפרשה, היא נתונה להתקפות האקרים מתקדמות רבות. המטרה של ההתקפות, לדברי החברה, היא פגיעה שתגרום לה לפשוט רגל - מה שיעלים את התביעה שהגישה נגד ממשלת סין. זמן קצר לאחר שהגיעה החברה לפשרה עם סין - פסקו ההתקפות. ראו איזה צירוף מקרים.
3. דיווחנו אתמול (ד') על כך שגוגל מנהלת קמפיין נגד הצעת חוק בגרמניה, שתדרוש ממנה לשלם כסף בכל פעם שהיא מצטטת מו"ל גרמני. המחוקקים הגרמנים ממש לא אהבו את הקמפיין הזה, והם מיהרו לכנות אותו "תעמולה זולה", שגוגל מקדמת את האינטרסים שלה במסווה של קמפיין חופש האינטרנט. זו תגובה ראויה של חברי פרלמנט במדינה חופשית, שתאגיד ענק זר מרשה לעצמו לבחוש בבוטות בפוליטיקה שלה. לישראל יש הרבה מה ללמוד.
4. עוד יום, עוד פשלת פוטושופ של משטר האייטולות: המשטר האיראני הציג לאחרונה מל"ט מתוחכם ועשה המון רעש מהעניין. דא עקא, שבדיקה העלתה שהצילומים של המל"ט מזויפים כמו הדו"חות של גרופון, ושמדובר בתמונה של מל"ט יפני לגמרי. בפעם שעברה, כזכור, איראן הוסיפה טיל רביעי לארבעת הטילים שהיא שיגרה, והשיקה בכך מם אינטרנט מצליח.
5. ולקינוח, ההצהרה העצובה של היום: פייסבוק היא הרשת החברתית של העבר - והצורה שבה היא מיישמת פרסומות לא באמת עובדת. טוב, החלק השני כנראה נכון, אבל החלק שמשך את תשומת הלב הוא הראשון. בעיקר, משום שההצהרה הגיעה מברדלי הורוביץ, ממנהל בית הקברות לתוכן הגדול בעולם, גוגל+. רמת ההדחקה שלו מרשימה.
• "דו"ח טכנולוגי" בכל יום בתיבת המייל שלכם. להרשמה לניוזלטר לחצו כאן (ובחרו בתיבה השישית)
• לטורים הקודמים של "דו"ח טכנולוגי" - dailytech.calcalist.co.il.
