אופס! כלי הריגול ההמוני של אמזון זיהה פוליטיקאים כפושעים

טעות בזיהוי

כשחושבים על ריגול ממשלתי המוני כלפי אזרחים, מיד קופצת סין לראש; מצלמות רחוב בה עוקבות אחר אוכלוסיית הערים, ומחפשות פושעים ומתנגדי משטר. ב-2013 למד העולם שארצות הברית, דמוקרטית ככל שתהיה, מתקדמת בצעדי ענק למצב הסיני: חשיפות סנודן הציגו ריגול אחר אנשים ברשת, דרך חברות הטלפוניה, דרך חברות האינטרנט ועוד. ובחודשים האחרונים למדנו על תוכניות הריגול האחרונות של ארה"ב: מערכת זיהוי פנים המונית, שתוכל לנטר את תנועת האוכלוסיה דרך מצלמות רחוב - מערכת בשם Rekognition אותה מפתחת אמזון.

זיהוי פנים המוני - עד כמה הוא מדויק? צילום: ACLU

מחקרים כבר הראו שזיהוי פנים המוני אינו מדויק; למעשה, ניסוי במערכת מתקדמת שנערך אשתקד בבריטניה הציג שיעור טעות של 92%. המערכות הללו מפספסות כל כך הרבה, שאם הן פוגעות זה ממש פוקס. ובטח לא תופתעו לשמוע שהמערכות מזהות גברים לבנים בצורה סבירה, אך טועות פעם אחר פעם בזיהוי נשים שחורות, למשל.

אבל אמזון היא ענקית טכנולוגיה, עם גישה לפיתוחים הכי מתקדמים שיש ומשאבי מו"פ גדולים. עד כמה מדויקת מערכת Rekognition? ניסוי שנערך בשבוע שעבר בידי ארגון זכויות האדם ACLU גילה: אנשיו לקחו 25,000 תמונות פושעים והצליב ביניהן ובין תמונות 535 חברי הקונגרס האמריקאי דרך Rekognition; עשרים ושמונה מהמחוקקים זוהו כעבריינים.

אמזון, חברה שאסטרטגיית התקשורת שלה נשענת על תפיסת "אנחנו. לא. טועים" נוקשה למדי, טענה אמש שהחוקרים ב-ACLU פשוט לא השתמשו נכון במערכת שלה; הם השתמשו בדיוק ברירת המחדל, שנאמד ב-80%, במקום בדיוק המקסימלי - שלטענתה עומד על 99%. למה, בשם כל מה שקדוש, בניתם תוכנת זיהוי פנים המוני - כלי שמוביל למעצרים של אנשים - שברירת המחדל שלו היא ביצועים מופחתים? ואם כבר שואלים, למה נראה לכם שזה הסבר הגיוני? מה, אם במקום 28 היתה המערכת מזהה רק חמישה סנאטורים כפושעים, זה היה סבבה?

זיהוי פנים ציבורי צילום: רויטרס

כדי להבין את האבסורד, צריך רק להציץ באינטרס הממשלתי שמאחורי התקנת כלי זיהוי פנים שכזה: סין יודעת טוב מאוד שהמערכת שלה מזייפת, אבל לא אכפת לה. הרעיון הוא להפחיד את הציבור ולהזכיר לו שהאח הגדול פוקח עין. נראה שארה"ב הולכת לאותו המקום; נשיא המדינה תוקף אישית כל גורם שמותח עליו ביקורת, ומגדיר אותו כשקרן. תומכיו מוסתים למתקפות נגד כל מבקר, והמתח בארה"ב מגיע לשיאים חדשים. מערכת זיהוי פנים המונית לא תשמור על ביטחון הציבור משום שאינה מדויקת מספיק - אך תשמור את הציבור חסר ביטחון. ואוכלוסיה מבוהלת היא מתכון לכוח שלטוני, דרך עיניים אוטוריטריות. האם לשם הולכת ארצות הברית? האם אמזון תיתן לזה יד? ימים יגידו, אך ברגע זה נראה שהתשובה העצובה היא "כן" לשני הסעיפים.

טוויטר מסתכלת במראה

ביוון העתיקה עמד מקדש גדול בעיר דלפי - כן, זו מסיפורי האורקל - שהוקדש לאל אפולו ודלקה בו משואה תמידית. לאורה, נראו שני ביטויים בכניסה להיכל: "דע את עצמך" ו"הכל במתינות". טוויטר נקרעת בימים אלה בין המשמעות שעומדת מאחורי כל אחד מהביטויים; היא הפכה, שלא מרצונה, לזירת פייק ניוז, בריונות מקוונת, הפצת שנאה, ריב ומדון. וכדי להתמודד עם המכות הללו, עליה ללמוד את עצמה ולבנות פיתרון חכם.

הגישה הזו נהדרת והרבה יותר קונסטרוקטיבית משל פייסבוק, שמתמודדת עם אותן הבעיות אך פשוט טוענת שהיא משתדלת להתמודד איתן, אפולו יודע איך. כדי ללמוד את עצמה, פנתה טוויטר למלומדים: לאחר תהליך סינון שהחל עוד במרץ, הודיעה החברה שבחרה שני צוותים אקדמיים שיעזרו לה לפתור את המשברים.

טוויטר מתבוננת פנימה צילום: LEX VAN LIESHOUT

הצוות הראשון מובל בידי חוקרים מאוני' ליידן ויתמקד בניתוח היווצרות של תאי תהודה ברשת החברתית; איך אנשים מתקשרים את העמדות שלהם ואיך נוצרת לעמדות הללו סביבה תומכת ומפרגנת. הצוות השני, שיובל בידי חוקרים מאוקספורד ומאוני' אמסטרדם, יתמקד בניתוח ביטויי רגשות על קונפליקטים קיימים בין אנשים.

החברה רוצה להשיג כך שני דברים קריטיים. הראשון הוא רשימת אינדיקציות לתחילת היווצרות של תא תהודה שלילי: אם תדע לזהות מעגל בריונות, פייק ניוז או תעמולה כשהוא רק מתחיל להיבנות ככזה, תוכל לסמן אותו ולהזהיר גולשים - או לעקוב אחריו ולראות מתי הפך לגורם מסוכן שדורש חסימה.

השני הוא יכולת להבין נרטיב של קונפליקט מקוון; לא כל מי שכותב "לך תמות" בוויכוח ברשת הוא מסית, מאיים או מצריך טיפול מיוחד; לא כל מריבה היא חוליה בשרשרת של בריונות או קמפיין הסתה. ונכון להיום, אין לאף רשת חברתית יכולת לדעת באופן אוטומטי עד כמה בעייתי הוא קונפליקט. הן נשענות על דיווחי גולשים וזיהוי בסיסי של נושאי הקונפליקט - למשל, מריבה על הזכות לבצע הפלה תגרום לאלגוריתם שלה להבין שיש משתמשים ספציפיים שכנראה עדיף לא להציג להם בפיד פוסטים עם המילה "הפלה"; בסופו של דבר, החברות מעדיפות שנהיה נינוחים - ואז נתעסק פחות בלריב ויותר בלהקליק על פרסומות.

אם יספקו החוקרים את הסחורה, תוכל טוויטר לבנות אלגוריתם חכם יותר, שיעזור בצמצום קטטות הרחוב המקוונות והלינצ'ים בשירות שלה. כך, מקווה החברה, תוכל למשוך משתמשים חדשים, לגרום לקיימים להיחשף ליותר תוכן שמכניס לה כסף ולהרגיע את המשקיעים.

למידה חשובה, אך לא תחליף לבקרה אנושית צילום: Pixabay

אני סבור שהגישה שלה נכונה, אך לא בטוח שהתוצר יפתור את הבעיות; רק עין אנושית מיומנת יכולה לקלוט את חומרת הקונפליקטים ולהבין שוואלה, יש פה טרול רציני שהורס למישהו את החיים. ואנשים מיומנים, כידוע, עולים הרבה כסף.

קצרצרים

1. גביע הפאדיחה החודשי מוענק לשיאומי הסינית: החברה חשפה גרסה מהממת של מכשיר הדגל Mi8, בו הגב שקוף וחושף את מכלולי לוח הטלפון במלוא תפארתם; לאחר שעלו טענות לפיהן המכלולים מזויפים, אמרה החברה שזו לא מדבקה והגב השקוף מציג את רכיבי הלוח. עתה מסתבר שכולם צדקו: הלוח הוא תבליט פלסטיק שמדמה את הרכיבים, כך שזה באמת בכאילו. אבל מדובר בתבליט ולא במדבקה. נו, באמת, שיאומי; למה ליפול בכאלה שטויות?

תצוגת הרכיבים מבחוץ ומבפנים צילום: Engadget

2. בסין יש מוסדות גמילה מסמים שהחלו בפיילוט מעניין המבוסס על מציאות מדומה: כדי לגלות מי מהמטופלים משקר בנוגע לגמילה שלו, מוצג לו סרט VR ריאליסטי שחושף אותו לחוויות שקשורות בסמים. אם אכן נגמל, לא יקרה דבר - אך אם הוא עדיין מכור, יגרום הסרט לתגובה גופנית בולטת. זה כלי שימושי שהייתי מכנה "חיובי", אם מרפאות הגמילה של סין לא היו מחנות חינוך מחדש ותכנות חברתי מהסוג שיש בדיסטופיות מד"ב.

3. איך מנגישים מכוניות אוטונומיות לציבור? חברת Drive.ai האמריקאית מצאה פיתרון: המכוניות שהיא בוחנת בטקסס צוידו במסכים שמתארים לסובבים את מה שהן עושות. למשל "אני מורידה נוסעים" או "אני מחכה שתחצה את הכביש" בבואה למעבר חציה. הרעיון נחמד מאוד, ובאמת גורם למכונית להפוך לפחות משונה בנוף העירוני. העניין הוא שנהגים גם ככה קוראים שלטים, פרסומות וטקסט אחר שצץ להם בפריים תוך כדי נסיעה - ושלט תצוגה נוסף לא ממש מועיל לבטיחות.

המכונית של Drive.ai מספרת מה היא עושה צילום: The Verge

4. ארה"ב היא מקום נהדר לקנות בו נשק; רובה AR15, בעל עווצמה של M16 צבאי, עולה קצת יותר מאייפון X. אבל יש יזם שחושב שזה לא נגיש מספיק - ומציע תוכניות לבניית אקדח במדפסת תלת ממד ביתית, כמו גם רכיבי נשק אחרים. עניין הדפסת הנשק מטריד את האמריקאים כבר כמה שנים - ועתה מנסים מחוקקים בניו יורק מסצ'וסטס ומדינות נוספות להגביל ואף לאסור על הפצת התוכניות. כנראה שזה לא מחשש לשלום הציבור: היי, גם חברות הנשק צריכות להתפרנס, ויש להן לובי עצום.