דו"ח טכנולוגי
כדור הבדולח: כך תדע פייסבוק מה אתם עומדים לחשוב
הרשת החברתית מפתחת טכנולוגיה לחיזוי העמדות והדעות שלכם, מדוע רוצים יצרני הרובוטים לתת להם אישיות משלהם, גוגל מפסידה בקרב חשוב באיחוד האירופי וסין מאיימת לגנוב לארה"ב את כתר ממלכת הסטארט-אפים
ימים ספורים לאחר שמארק צוקרברג סיים לשקר בפומבי לקונגרס האמריקאי, צצה פצצה חדשה בגזרת פייסבוק-פרטיות: מסמך פנימי וחשאי של פייסבוק, שמבטיח לספק למפרסמים מידע על מה שמשתמשים עתידים לחשוב, להרגיש - ולקנות. החשיפה היא של The Intercept, האתר שהתפרסם בחשיפות סנודן.
איך זה יקרה? בשיטות של קיימברידג' אנליטיקה: פייסבוק תאסוף את כל נקודות המידע שיש לך עליך, תזין אותן לתוכנה חזקה במיוחד (הז'רגון המקובל הוא AI), ותנסה לנחש איך אתה עומד להרגיש כלפי מותגים או מוצרים. לפייסבוק יש, כפי שמצאה פרו פובליקה ב-2016, 29,000 אינדיקטורים שונים על משתמשים (צוקרברג נשאל בקונגרס כמה אינדיקטורים כאלה יש והתחמק מתשובה). המטרה המפורשת של הפרויקט, שנקרא FBLearner, היא לאפשר לחברות להשפיע על משתמשים מבלי שהם יהיו מודעים לכך.
לא צריך כדור, רק תוכנת בינה מלאכותית צילום: שאטרסטוק
פייסבוק תחשב מראש האם אתה מתחיל להיות מאוכזב מהמותגים שאתה רוכש, תעדכן את החברות בנושא, ותזין את המשתמש במידע שמיועד לשנות את דעתו ולשמור על נאמנותו למותג. המותג, כפי שלמדנו, לא חייב להיות יצרן שוקולד או מכוניות: הוא יכול להיות גם מפלגה. FBLearner יעקוב אחרי המשתמש בכל פעם שהוא נכנס לפייסבוק וילמד את ההתנהגות שלו, ומכאן ינסה לנבא את התנהגותו.
אם וכאשר הפרויקט הזה יתממש, פייסבוק תעבור מאיסוף ומכירת מידע של המשתמש לנסיון להשתמש בו כדי לנבא התנהגות. המוצר הזה מסוכן לאין שיעור מהמידע שנחשף לקיימברידג' אנליטיקה: לאחרונה, אחרי הכל, היו רק נקודות חלקיות על המשתמש. לפייסבוק יש את כל המידע, ואין שום פיקוח על הדרך שהיא משתמשת בו.
לפני מספר שנים, נזכיר, ערכה פייסבוק ניסוי בשאלה האם היא יכולה לגרום למשתמשיה לדכאון. התשובה היתה חיובית. הניסוי, למותר לציין, נערך ללא הסכמת המשתמשים או יידוע שלהם. אם עורכי הניסוי היו רופאים, הם היו צפויים לשלילת רשיון ואולי גם למאסר. כעת אנחנו לומדים שכצפוי, למרות ההתנצלות הפומבית, לפייסבוק אין שום כוונה להפסיק לבצע מניפולציות במשתמשים שלה.
אני, רובוט
האם רובוטים זכאים למעמד של אישיות (personality)? השאלה הזו מעוררת סערה בימים האחרונים, בעקבות סעיף שנקבר עמוק בדו"ח של הפרלמנט האירופי שיצא בסוף 2017. הסעיף מבקש להעניק למכונות שמסוגלות ללמוד בעצמן מעמד של אישיות. המשמעות היא שאפשר יהיה לבטח רובוטים באופן אישי, כך שהם ישאו באחריות לפעולותיהם. תומכי השינוי מבקשים לציין שהם לא מתכוונים להעניק לרובוט זכויות אדם, כך שלמשל הם לא יוכלו להינשא או לקבל זכויות אדם אחרות, אלא רק לקבל את הזכויות שיש לתאגידים.
לא זכויות לרובוטים, כי אם כסת"ח ליצרנים צילום: איי אף פי
המתנגדים, שהוציאו מניפסט חריף בנושא, ציינו שהמטרה של הענקת זכויות אישיות לרובוטים היא להסיר את האחריות מעל היצרנים. אם רובוט ספציפי יבצע טבח המוני, אי אפשר יהיה להאשים את החברה שיצרה אותו, אלא רק את הרובוט עצמו. ורובוט זקן, מה יש לו בחייו? החברה תתנער מהרובוט במהירות שיא, תרחץ את ידיה, ותגיד שזו אשמת הגרוטאה ומה אתם רוצים ממנה.
הבעיה, כמובן, היא שרובוט לא קובע את האישיות שלו. הוא מתוכנת. מישהו כתב לו מה הוא אמור לעשות. התהליך הזה לא שקוף, לציבור אין גישה לאלגוריתמים, וכל המהלך הזה נראה כמו נסיון להסיר אחריות לאסון – שנים לפני שהוא מתרחש.
הזכות לשיקום לפני הזכות למידע
גוגל הפסידה קרב משפטי חשוב בבריטניה בסוף השבוע: האיחוד האירופי מכיר ב"זכות להישכח", שאומרת שמותר לאנשים לדרוש מגוגל להסיר עליהם מידע מביך. לא כל מידע, כמובן, וההליך הזה מראה שמדובר בסרבול משפטי ניכר, אבל יש אפשרות כזו.
התיק עוסק בשני אנשי עסקים בריטים שלפני יותר מעשור הורשעו בהונאה, מרמה ושאר מרעין בישין. השניים טענו בפני בית המשפט שהעובדה שהמידע על פשעיהם זמין לציבור, גם שנים לאחר שריצו את עונשם, פוגעת בשיקום שלהם ומהווה מקור מבוכה בלתי פוסק. גוגל, מצידה, טענה שלציבור יש זכות לדעת האם אדם הוא עבריין פלילי, ולו לשם הגנת הציבור מפניו.
אירופה אוכפת את הזכות להישכח צילום: Shutterstock
פסק הדין קובע, למעשה, חזרה אל חוק שיקום העבריינים משנת 1974: המידע על פשעים שביצעו אנשים הופך לחשאי לאחר תקופת מה, כדי שהוא לא יהפוך לאות קלון על האיש שימנע ממנו להשתקם בפועל. עורכי דין אמרו בעקבות הפסיקה שמנוע החיפוש של גוגל פשוט הפך את החוק לבלתי ישים.
פסק הדין נחשב למעורפל, אם כי הוא קובע במפורש שזכותו של אדם לפרטיות גוברת "לא רק על זכויותיו הכלכליות של מפעיל מנוע החיפוש, אלא גם על העניין של הציבור במציאת המידע." עם זאת, במקום אחר, פסק הדין מסייג את עצמו וקובע שיתכן ש"עניין ציבורי ניכר" יש בו כדי להשאיר את המידע זמין.
קצרצרים
1. מלחמת סחר מתחממת בין ארה"ב וסין, ובוול סטריט ג'רנל מציינים בדאגה את עלייתו של הכסף הסיני בתחום ההון סיכון. אם בעבר עמק הסיליקון הוא זה שהשקיע את רוב הכסף בסטארט-אפים ברחבי העולם, בשנת 2017 כבר ניכרו סימני מהפך: 40% מהכסף שהושקע בהון סיכון הגיע מסין, וההשקעה הסינית עלתה פי 15 (!) מאז 2013. בעמק הסיליקון מודאגים מכך שסין מתחילה לאכול את ארוחת הצהרים שלהם, ומזהירים מסיכון של עולם שבו יש "דואופול" במקום מונופול אמריקאי. על פי ההערכות, בסין נוצרות חברות חד-קרן בקצב זהה לזה שבו הן נוצרות בארה"ב. לא ברור כמה מחדי הקרן הסיניים מלאים באוויר חם בהשוואה למתחריהם האמריקאים. עיקר הכסף הסיני, עם זאת, מושקע בחברות סיניות שכמעט אינן מוכרות מחוץ לסין. העובדה שהדיקטטורה הרצחנית בהיסטוריה עושה עוד צעדים בדרך להשתלטות על שוק ההייטק היא ודאי לא חדשות טובות, אבל קשה לדעת כמה מההיסטריה האמריקאית נובעת מלאומנות צרה ומחשש לאובדן כוח.
פארק מדע בסין צילום: China Daily
2. החשש מהתקפות ירי בבתי ספר בארה"ב מביא לצעדים קיצוניים, החל מאימונים של תלמידים כיצד להתגונן מפני התקפות כאלה וכלה באימוץ טכנולוגיה צבאית. המקרה האחרון בתחום הוא מחוזי בתי ספר בניו מקסיקו, שהתחילו להתקין מערכות לזיהוי קולות ירי. המערכות הללו, שהשימוש הראשון בהן היה במהלך הפלישה לעיראק, מסוגלות הן להבחין בין קולות ירי ובין רעשים אחרים (כמו זיקוקים), והן לזהות את מיקום הירי המדויק. המכשירים האלה, שהם כבר בדור השלישי שלהם, מסוגלים – עם זיהוי ירי – לנעול את דלתות הכיתות, להתריע בפני התלמידים והמורים על כך שיש יורה פעיל בסביבת המתחם, ולהזעיק את כוחות הבטחון. המערכות כבר נבחנו, על ידי שוטרים שביצעו ירי בתחומי בית הספר שלא בשעות הלימודים, ונמסר שהן מתפקדות כנדרש. השלב הבא יהיה כנראה חלוקת שכפ"צים לתלמידים. תשמור האלה ותציל.
3. נניח שאת קובעת עם חברה שלך שהיא תבוא אליך ותזמינו פיצה. כמה מידע אתן חושפות בדרך? הוול סטריט ג'ורנל בדק. השתיים מתכתבות באייפון ולכן כל מה שנשמר הוא זמן השיחה ומשכה, הכל באופן אנונימי. הן לא תהיינה בנות מזל כל כך אם תשתמשנה במכשיר אנדרואיד. אחת מהן פונה למכשיר האלקסה שלה ומזמינה פיצה. מעבר למידע המתבקש, אלקסה שומרת היסטוריה של המגעים של המשתמשת איתה, את סוג המכשיר, את מיקומו, ואת ארבע הספרות האחרונות של כרטיס האשראי. דומינוס שומרת את השיחה הקולית של המזמינה, את פרטי החומרה של אלקסה, את מערכת ההפעלה שלה ונתוני ביצוע. בינתיים, חברתה מבקשת מגוגל Maps מסלול אליה. גוגל שומרת את הכתובת אליה היא רוכבת, את מיקומה, את המהירות שלה, המסלול, סוג המכשיר, את חיבורי הווייפיי ואת מגדלי הסלולר הסמוכים. עם הזמנת הפיצה, השתיים עושות סלפי. פייסבוק שומרת ניתוח של התמונה, מיקום של התמונה, תאריך, סוג המכשיר, מספר מזהה של המכשיר, מערכת ההפעלה שלו, רמת הסוללה, עוצמת האות, מהירות החיבור, כמה מקום נשאר פנוי על הסלולר, שמות קבצים ומיקומם, שמות אפליקציות, מיקומם של חיבורי ווייפיי ומגדלי סלולר סמוכים, מכשירים סמוכים כמו טלוויזיות חכמות, אזור זמן, ספק הרשת או הסלולר, כתובת IP, משך הפעילות, והפרטים של החומרה והתוכנה של המכשיר. אחר כך, כמובן, הן מזמינות סרט. אפל אוספת כמה פרטים זניחים. בכל האינטראקציה הלכאורה שולית הזו, מסרו השתיים לתפלצות הרשת 53 פרטי מידע. מסמכי הפרטיות של אמזון, גוגל, פייסבוק ואפל מכילים 76,069 מילים. בקצב קריאה מקובל, המשתמש יזדקק ליותר מחמש שעות כדי לקרוא אותם. עכשיו אתם מבינים איפה אנחנו חיים?
4. המקבילה הסינית של טוויטר, ווייבו, הודיעה שהיא הולכת לשנות את תנאי השימוש שלה ומעתה היא תאסור על כמה סוגי תוכן. אלימות, למשל. והומוסקסואליות. המשתמשים שכחו לרגע שהם חיים בדיקטטורה והתמרדו: תוך זמן קצר פרץ לתודעה ההאשתג #iamgay, ההודעה קודמה 110,000 פעמים ונרשמו לה 24,000 תגובות. בחודשים האחרונים נרשמה התקפה של המפלגה על עצם הדיבור על הומוסקסואליות. אף שהיא חוקית בסין, גופים שמרנים במפלגה רואים בעין רעה את עצם הדיבור על הנושא.
