דו"ח טכנולוגי
דירקטוריון אמזון מציג: כשתאוות בצע חשובה יותר מכדור הארץ עצמו
חבר המנהלים דחה על הסף תוכנית להגבלת מכירה של טכנולוגיות ריגול המוני, ותוכנית לצמצום הזיהום הסביבתי שמייצרת ענקית הקמעונאות; תוכנת גוגל שמסוגלת להתקשר לעסקים בשבילכם משתמשת בטלפן אנושי ברבע מהמקרים; ונוסעי הרכבת התחתית בלונדון חשופים לריגול ממשלתי
הכסף דחוף יותר מהזכויות שלך, או מהפלנטה הזאת
בעלי המניות של אמזון דחו אתמול הצעה שנועדה להגביל את מכירת מערכת זיהוי הפנים של החברה. זו החלטה מצערת, אפילו מבישה, שנבעה בראש ובראשונה מתאוות בצע. אבל זה אפילו לא הדבר הנורא ביותר שקרה באותה ישיבה. הדחייה של ההצעה בנושא טכנולוגיית זיהוי הפנים היא בעלת השלכות מרחיקות לכת על זכויות האדם והאזרח בארה"ב ובמדינות אחרות. ההחלטה השנייה - לדחות הצעה שקראה לאימוץ תוכנית בנושא שינויי אקלים, ושקודמה על ידי אלפים מעובדי אמזון - היא בעלת השלכות מהותיות על עצם החיים בכדור הארץ.
טכנולוגיית זיהוי פנים, ובפרט השימוש שעושים בה גופי משטרה ואכיפת חוק, היא סוגיה שנויה במחלוקת בתקופה האחרונה, במיוחד כשמדובר במערכת זיהוי הפנים של אמזון, Rekognition. להגיד שמדובר באחת ממערכות זיהוי הפנים המושמצות ביותר בשנה האחרונה תהיה הצהרה זהירה מאוד. שורה של מחקרים חשפו שהמערכת, שנמצאת בשימוש במספר רב של יחידות משטרה בארה"ב, מזייפת; הבולט שבהם, מצוות מדענים ב-MIT גילה שהתוכנה מתקשה בזיהוי המגדר של נשים, ובפרט נשים כהות עור, בהשוואה למערכות דומות של IBM ומיקרוסופט. לפי המחקר המערכת זיהתה נשים כגברים ב-19% מהמקרים, ונשים כהות עור כגברים ב-31% מהמקרים. זאת, לעומת 0% טעויות בזיהוי המגדר של גברים בהירי עור.
זיהוי פנים המוני צילום: שאטרסטוק
ממצאי המחקר, ותגובת אמזון שניסתה לערער את עבודת החוקרים ואמינותם, עוררו סערה ניכרת. היא הגיעה לשיאה באפריל, כשעשרות מומחי בינה מלאכותית - בראשם חתן פרס טיורינג ל-2019, ד"ר יושוע בניו, וכן מומחי AI מגוגל, מיקרוסופט ופייסבוק - חתמו על מכתב פתוח בו קראו לאמזון להפסיק למכור את המוצר למשטרה. "אין חוקים או תקנים מחייבים שמוודאים שלא נעשה ב- Rekognition שימוש שמפר זכויות אזרח", כתבו המומחים. "אנחנו קוראים לאמזון להפסיק למכור את Rekognition לכוחות אכיפת חוק". לכך מצטרפות כמה תקריות מטרידות מהזמן האחרון, כמו מקרה שבו מערכת זיהוי פנים זיהתה בטעות סטודנטית בשם אמרא מאג'ד מאוניברסיטת בראון כחשודה בפיגועים בסרי לנקה.
ההתנגדות לא נשארת רק באקדמיה ובמחקר: סן פרנסיסקו החליטה לאסור על סוכנויות אכיפת חוק שפועלות בעיר לעשות שימוש בטכנולוגיית זיהוי פנים, בעיקר על רקע חשש לפגיעה בזכויות אזרח וההטיה שממנה סובלות המערכות השונות. מדובר בעיר הגדולה הראשונה בארה"ב שמקבלת החלטה מסוג זה, אך היא לא צפויה להיות האחרונה. ערים אחרות שוקלות הצעות דומות, ובהן אוקלנד בקליפורניה וסומרוויל במסצ'וסטס. הסנאט של מסצ'וסטס גם דן בהצעת חוק לעצירת השימוש בטכנולוגיה עד ליצירת רגולציה חדשה בנושא.
על רקע זה, ההחלטה של אמזון מאתמול לדחות הצעות בנושא, שאגב לא היו מחייבות אפילו - אחת להפסקת המכירה לגופי ממשל והשנייה לביצוע בדיקה של ההשלכות שיש למערכת על זכויות האזרח - היא בעיקר מבישה. היחס של אמזון לביקורת על Rekognition היה עד עתה תוקפני ומתגונן במיוחד, עם תגובות קיצוניות ולא ראויות לביקורת עניינית. דחיית ההצעות, אפילו זו שקוראת לביצוע בדיקה בלבד, היא עלובה במיוחד. אמזון כל כך חוששת מפני פגיעה בפעילות העסקית הזו, שהיא אפילו לא מסכימה להצעה לא מחייבת שתוכל לשמש אותה לבצע ספין בנושא.
מצלמת רחוב. אמזון לא מוותרת על הניטור ההמוני צילום: אי פי אי
לא ברור כמה זמן היא תוכל להמשיך בדרך זו. הקריאות נגד השימוש שעושים כוחות שיטור במערכות זיהוי פנים מתגברות, והן לא מוגבלות רק לחשודים המידיים: בשימוע שנערך אתמול בנושא בוועדת הפיקוח והרפורמה של בית הנבחרים כמה מחוקקים רפובליקנים היו בין המתנגדים החריפים ביותר למערכות זיהוי פנים. "יש 50 מיליון מצלמות שמשמשות למעקב בארה"ב", אמר חבר הקונגרס הרפובליקני ג'ים ג'ורדן מאוהיו. "מדובר בהפרת התיקון הראשון והרביעי לחוקה (חופש ביטוי והגנה מפני חיפוש שרירותי - ע"כ), ובפגיעה בהליך הנאות. יש כל מיני טעויות שפוגעות באופן לא פרופורציונלי באפריקאים-אמריקאים. שום נבחר ציבור לא אישר למדינות או לממשל הפדרלי, ל-FBI, להשתמש בזה. צריכות להיות כל מיני מגבלות. נראה לי שזה הזמן לפסק זמן".
בעידן טראמפ, שבו הכל נצבע בצבעים של אנחנו והם, איתי או נגדי, נדיר למצוא נושא שמאחד כך פוליטיקאים משני הקצוות. על אחת כמה וכמה כשמדובר בהגבלת סמכויות של כוחות אכיפה, וחבר קונגרס רפובליקני לבן שמדבר על פגיעה בזכויות של מיעוטים מצד כוחות משטרה? זה כבר בגדר פנטזיה. מערכות זיהוי פנים נמצאות בשימוש גובר והולך, ויותר ויותר מהן משמשות לזיהוי פנים בזמן אמתמ ולא רק לעבודה מול מאגר סטטי. באופן נדיר, נראה שאפילו המחוקקים מבינים את זה; אולי אפילו יחליטו לנקוט בצעדים בנושא.
אמזון, חברה עם רקורד ציבורי טוב בסוגיות שנחשבות ליברליות, נמצאת הפעם בצד הלא נכון של הוויכוח. כי כנראה שהמערכת רווחית מדי, ובחברה של ג'ף בזוס כסף מנצח עקרונות. אין לה שום כוונה לעצור, לא משנה לה הפגיעה האפשרית בזכויות אזרח ובמיעוטים, לא משנה שרבים מהעובדים ומבעלי המניות מתנגדים. כל עוד מישהו יקנה את המערכת שלה, היא תמשיך למכור אותה. הייתי אומר שאנחנו כמשתמשים יכולים להצביע באצבעות ולהפסיק לרכוש באתרי החברה, אבל ברור שזה לא יקרה. התקווה היחידה היא שמחוקקים יתעוררו ויגבילו את המכירות והשימוש של מערכות אלו, אבל כולנו יודעים שזו תקווה של שוטים.
אבל ההחלטה של בעלי המניות של אמזון בנושא זיהוי פנים היא לא הדבר המטריד ביותר שקרה בישיבה. בשבועות האחרונים, קבוצה של כמעט 7,700 מעובדי אמזון פועלת כדי שהחברה תאמץ תוכנית רחבת היקף להתמודדות עם שינויי אקלים, שבמרכזה הפחתת פליטות הפחמן של החברה. "לאמזון יש את המשאבים להצית את הדמיון של העולם ולהגדיר מחדש מה אפשרי ונחוץ כדי להתמודד עם משבר האקלים", נכתב במכתב להנהלה שיצרה הקבוצה, שמכונה Amazon Employees For Climate Justice. "אנחנו מאמינים שמדובר בהזדמנות היסטורית לאמזון לעמוד לצד העובדים ולאותת לעולם שאנחנו מוכנים להיות המובילים בתחום".
פליטת מזהמים? אמזון מעדיפה לא להתעסק בנושא צילום: youtube
בעלי המניות לקחו אתמול את ההזדמנות ההיסטורית הזו וזרקו אותה לעזאזל, כשדחו הצעה להפקת דו"ח על טביעת הפחמן של אמזון ולפרט את האופן שבו היא מתמודדת עם משבר האקלים. "לאמזון חייבת להיות תוכנית מקיפה שתתאים להיקף ולדחיפות של משבר האקלים", אמרו נציגי קבוצת העובדים בתגובה. "הגיע הזמן שג'ף בזוס ודירקטוריון אמזון יתחילו להקשיב".
התחממות גלובלית היא המשבר החמור ביותר שעמו מתמודדות כיום האנושות. זה משבר קיומי בקנה מידה עצום, כזה שמקטין כמעט כל בעיה אחרת שניצבת מולנו כיום למימדים מיקרוסקופיים. כל אחד מאיתנו חייב לעשות משהו כדי לתרום למאבק, ומי שיש לו יותר משאבים חייב לעשות הרבה יותר. יש לא מעט חברת טכנולוגיה שעושות זאת. אפל היא אחת המובילות שבהן ובשנה שעברה השלימה מאמץ מרוכז להעביר את כל הפעילות של ל-100% אנרגיה בת-קיימא – השג בקנה מידה היסטורי שמקיף אץ החנויות, המשרדים, הדאטה-סנטרים שלה ועוד ב-43 מדינות. במקביל החברה גם פועלת להעברת ספקיות שלה לאנרגיה בת-קיימא, ועשרות מהן כבר התחייבו לעשות זאת. דוגמה מושלמת לגוף חזק ומשפיע שממנף את הכוח הרבה שלו לטובת האנושות.
אמזון היא גוף חזק ומשפיע לא פחות מאפל, כזה שיש לו קשר גם מול ספקים וחברות רבות וגם מול צרכנים. מותג אהוב וחזק, עם הרבה כסף וכוח השפעה. אמזון יכולה לעבור כמו אפל לאנרגיה מתחדשת, היא יכולה ליצור מעין תקן למוצרים ידידותיים לסביבה ולקדם אותם באתר שלה, היא יכולה לעבוד עם ספקים וחברות משלוחים על פתרונות שיצמצו פליטת פחמן, היא יכולה להפסיק למכור כלי פלסטיק חד-פעמיים (שלא ממש קשורים להתחממות גלובלית, אבל אם יש בעיה סביבתית אחת שמתחרה בה – זו פסולת פלסטיק), ואלו רק הרעיונות שעלו לי בשתי הדקות שנדרשו לי כדי לכתוב את הפסקה הזו.
היא לא עושה שום דבר מזה, אפילו לא משהו סמלי. ובגלל זה, אמזון ובזוס ראויים לבוז ולכל גינוי אפשרי.
קצרצרים
1. גוגל היממה את העולם בשנה שעברה כשחשפה את דופלקס, מערכת AI שיכולה לחקות קול אנושי לצורך ביצוע הזמנות במסעדות ועסקים אחרים באמצעות הטלפון. שנה וקצת אחרי החשיפה, ומתברר שלא הכול ורוד בעולם הדופלקס: לפי דיווח של הניו יורק טיימס ב-25% מהמקרים המערכת בכלל נשענת על אנשים בשר ודם. קצת מביך. מצד שני, שימוש במכונה ב-75% מהמקרים זה הישג לא רע בכלל.
2. וואווי ממשיכה לצבור צרות: בכירים בחברה מואשמים שגנבו סודות מסחריים מחברת שבבים שזכתה למימון של מיקרוסופט ו-Dell. לפי תביעה שהגישה החברה, Cnex, בבית משפט בטקסס, במשך שנים ניסתה וואווי לגנוב את סודות אחסון המידע שלה כאשר עובדיה מתחזים ללקוחות פוטנציאלים. וואווי, בתביעת נגד, טענה שזו בכלל Cnex שניסתה לגנוב את הסודות המסחריים שלה.
3. כאילו בריטניה לא מנוטרת מספיק גם ככה, מערכת הרכבת התחתית של לונדון תתחיל לנטר נוסעים ולאסוף מידע על תנועתם במערכת באמצעות מעקב אחר מכשירים מובייל שמתחברים לרשת ה-WiFi שקיימת בתחנות ונתיבי הרכבת. המידע, הם מבטיחים שם, יעבור אנונימיזציה. ועל זה יגידו ציניקנים: כן, ממש.
