דו"ח טכנולוגי
האלגוריתמים המשפטיים גזעניים, אבל חוקיים
כדי לחקור אפליה באלגוריתמים צריך קודם כל להביס את החוק שמגן עליהם; החוק נגד פורנו שמסייע ל-Airbnb; ופייסבוק ממשיכה לכרסם בפרטיות שלכם
אנחנו נפלה את החשוד, וזה חוקי
יותר ויותר בתי משפט בארה"ב משתמשים בתוכנות מחשב שמטרתן לקבוע האם אדם מסוים צפוי לחזור לפשוע. האלגוריתמים מזכירים קצת את הסרט Minority Report: הם חוזים פשעים שטרם קרו ועל פי הם חורצים גורלות. ופעם אחר פעם, האלגוריתמים האלה נתפסים בהטיה. לעתים קרובות, ההטיה הזו היא גזעית. כלומר, אנשים נשפטים לא על פי מה שעשו (אבן יסוד של התפיסה המשפטית המערבית) אלא על פי מה שהתוכנה חושבת שהם.
צילום: שאטרסטוק
כדי למצוא את הפגמים וההטיות באלגוריתמים האלה, צריך לחקור אותם. ופה יש בעיה רצינית. תנאי השימוש של התוכנות אוסרות על שימוש בהן לצרכי מחקר. וחוק ישן בארה"ב, חוק ה-Computer Fraud and Abuse Act, מעניק לתנאי השימוש הללו תוקף חוקי. כל שימוש בתוכנת מחשב בניגוד לתנאי השימוש שלה מהווה, טכנית, עבירה פדרלית. אתה יכול ללכת לכלא על זה.
היה אפילו מקרה שבו ניסו להעמיד מישהי לדין: ב-2008, לורי דרו התחזתה לקטינה ויחד עם קטינים אחרים יצרה חשבונות מייספייס מזויפים כדי להתעלל בילדה בת 14, מייגן מאייר. דרו, שכנתה של מאייר, ידעה שמאייר נוטלת תרופות נגד דיכאון ושהיא בעלת נטיות התאבדותיות, ודחפה את הילדה להתאבדות במכוון. לא היה חוק אחר להשתמש בו, והזעם הציבורי היה עצום אז דרו הועמדה לדין על כך שהיא עברה על תנאי השימוש של מייספייס ביוצרה חשבונות מזויפים. חבר המושבעים, בתבונה, זיכה את דרו. הנזק שבהרשעה היה יכול להיות עצום.
אבל החוק עדיין שם, ויש המון כסף באלגוריתמים משפטיים, וכל חוקר בתחום יודע שאם הוא ינסה לחשוף את ההטיות של האלגוריתם, החברה תכנס בו בכל מה שיש לה. התוצאה היא אפקט מצנן: חוקרים חוששים לגעת בתחום. ואנשים הולכים לכלא על סמך תחזיות מוטעות.
על כן, האגודה לזכויות האזרח של ארה"ב תבעה השבוע את משרד המשפטים האמריקאי, בדרישה לביטול החוק. היא ציינה שחברות כריית מידע עוברות עליו בשיטתיות, ושהוא לא נאכף נגדן, ושבכל מקרה הוא מעניק לחברה סמכות להפוך מישהו שמשתמש במוצר שלה לעבריין פלילי. נעדכן.
החוק נגד פורנו שמסייע לתאגיד ענק
Airbnb, תאגיד ששוויו מעורך בכ-25 מיליארדי דולרים, תבע השבוע את עיר הבית שלו, סן פרנסיסקו, לאחר שזו העבירה חוקים שמטרתם להגן על הדיירים המקומיים ולמנוע מהחברה ליצור בעיר עוד מדבר שממה של דירות בשכירות קצרה.
התביעה של Airbnb, שמשפטנים רבים מסכימים שיש בה ממש, נשענת על סעיף 230 של חוק ה-Internet Decency. החוק הזה חוקק על ידי סנאטור שמרני מנברסקה בשנת 1995, והמטרה שלו היא לנקות את הרשת מפורנו.
סנאטורים שניסו להציל את המצב הוסיפו לחוק את סעיף 230, שהוא בערך כל מה שנשאר ממנו. הסעיף קובע שספקים של "שירותי מחשב אינטראקטיביים" לא יהיו אחראים על התוכן שמשתמשים מעלים אליו. סעיף 230, ניסיון נואש למנוע הפללה של אתרים מנקמת משתמשים זועמים שהיו מעלים אליהם פורנו ואחר כך מביאים לתביעתם, הוא בעצם אבן היסוד של הרשת כפי שאנחנו מכירים אותה כיום. בלעדיו, אי אפשר לחשוב בכלל על מדיה חברתית.
סן פרנסיסקו דורשת כעת מ- Airbnb למסור לה את הפרטים של המשתמשים שלה שעוברים על חוקי הדיור בעיר. אין כל ספק שלחברה יש את המידע הזה. היא מסרבת, עם זאת, למסור אותו לעירייה; היא מציינת בצדק שהיא לא סוכנות ממשלתית והיא לא עוסקת בשיטור. היא גם מצביעה על סעיף 230 כדי להראות שהיא לא יכולה להיחשב לאחראית למשתמשיה. הממשלה חושבת שמשתמש עובר על החוק? שתחקור את הנושא, תאסוף ראיות ותיקח אותו לבית משפט. לא תנסה קיצורי דרך באמצעות Airbnb.
https://www.theguardian.com/technology/2016/jun/29/airbnb-lawsuit-san-francisco-regulation-internet-porn
פייסבוק ממשיכה במלחמה נגד הפרטיות
בשנה האחרונה, גילה אלכס הרן, פייסבוק חיסלה בשיטתיות את הקונספט של חשבון פייסבוק פרטי. הוא מתעב את פייסבוק, ועל כן הוא מחק את החשבון שלו ב-2014. אבל הוא צריך פייסבוק לצרכי עבודה, כמו רבים וטובים, אז הוא יצר חשבון שהגדרות הפרטיות שלו ממוקסמות ושליתר בטחון, אין לו בכלל חברים.
צילום: שאטרסטוק
טכנית, אם כן, אי אפשר למצוא אותו והוא לא אמור לשדר שום דבר לאף אחד. זה לא מה שקורה בפועל. טכנית, אף אחד לא יכול להוסיף אותו כחבר ואף אחד לא יכול לראות אותו בכלל – הוא לא אמור להופיע בחיפוש – אבל באוקטובר, פייסבוק שינתה את הכללים. (על עוד שינוי של הכללים, שדופק את כלי התקשורת שבנו על פייסבוק, תוכלו לקרוא כאן) מעתה, אפשר לחפש כל משתמש בפייסבוק. אי אפשר להפוך לחבר שלו, אבל אפשר לעקוב אחריו. אם אתה רוצה לנטרל את האפשרות הזו, אתה תגלה שתצטרך לחפור. היא לא תחת הגדרות הפרטיות; היא תחת הגדרות ה"עוקבים." פייסבוק בעליל מצפה שתתייאש לפני זה.
במקביל, פייסבוק לקחה את המידע שהרן נאלץ להזין לה, והחלה להציף אותו בניחושים על מי הם החברים שלו . אמנם, הגדרות הפרטיות של הרן אוסרות על פייסבוק להציג את המידע שלו, אבל הן לגמרי מאפשרות לה להאכיל את המידע לאלגוריתם שלה. ובינתיים, היא יכולה להציק לך בבקשות חברות – חלקן שהיא עצמה מציעה לך.
פייסבוק לא רוצה שתהיה בודד. היא רוצה שתחלוק כמה שיותר מידע עם כמה שיותר אנשים כדי שהיא תוכל למכור כמה שיותר פרסומות. לצורך זה, היא צריכה לשכנע אותך לוותר על כמה שיותר מהפרטיות שלך. וזה בסדר: היא תעקוב אחריך ותמכור את המידע שלך גם אם אתה בכלל לא חבר בה (ראו קצרצר #2).
קצרצרים
1. תשמחו לדעת שלבנקים ברחבי העולם יש מאגר מידע שמציין את שמותיהם של אנשים שהיו מעורבים בפשע כלכלי כלשהו. האמת, הגיוני. אם נוכל צרפתי עם קשרים למאפיה ולממסד הפוליטי הימני ניגש אליך כדי לבצע עסקה שנראית מפוקפקת בסכום ענקי, כדאי שיהיה לך מאגר מידע שיציין שמעבר לזה שהוא מארח ראשי ממשלה בדימוס, הוא גם חשוד בחטיפה. תשמחו פחות, אני מניח, לשמוע שהמאגר הזה נחשף ברשת ונמצא שם בלי שום אבטחה. אמנם, מדובר בגרסה לא מעודכנת של המאגר – היא בת שנתיים – אבל עדיין, הייתם מצפים שהבנקים שלכם ישקיעו קצת יותר בהגנה על מידע רגיש כל כך.
צילום: shutterstock
2. בית משפט בלגי דחה את התביעה של רשויות הפרטיות שם, שקבעו כי פייסבוק מרגלת אחרי אנשים שאינם משתמשים, בנימוק טכני: לדבריו מאחר ולפייסבוק יש משרד באירלנד, בתי הדין שצריכים לדון בנושא יושבים באירלנד. לבתי המשפט האיריים כבר נמאס מהמצב שבו כל תלונה על העבריינית הסדרתית מקליפורניה מגיעים אליהם, ובינתיים העבריינית ממשיכה בפעילות הריגול שלה בבלגיה כרגיל.
3. גוגל משחררת כלי קטן, My Activity שמו, שמאפשר לדעת מה היא יודעת עליך. הוא מציין את כל החיפושים שעשית בחיפוש של גוגל ובגופים אחרים שלה, כמו יוטיוב, ואת הקישורים שעליהם הקלקת אחרי החיפוש. זה יוצר תמונה מדויקת ומפחידה של הגלישה שלך ברשת. גוגל מאפשרת למשתמש להסיר קישורים ספציפיים מהתוצאות, כמו גם להפסיק את המעקב – אבל להפסקת מעקב יש השלכות לגבי הדיוק של גוגל ביחס לחיפושים שלך. שווה מבט, ואולי אף יותר מכך.
צילום: איי פי
4. דונלד טראמפ ממשיך להביך את האמריקאים: הליצן שרכב על הנמר הרפובליקני עד לתפקיד מועמד המפלגה לנשיאות לא מצליח לגייס כספים. במהלך הפריימריז, הוא אמר שזו לא תהיה בעיה; הוא עשיר מאד והוא יממן את עצמו. ובכן, אף אדם לא הפך לעשיר משום שהוא נהנה לממן את עצמו, ובשבוע האחרון מדווחים פוליטיקאים מרחבי העולם שהם מקבלים ספאם מביך מטראמפ, שמנסה לשדל אותם לתרום לקמפיין שלו. עד כה הגיעו על כך דיווחים מחברי פרלמנט באיסלנד, אנגליה, סקוטלנד (באיזו מהירות התחלנו להתייחס אליהן כאל מדינות נפרדות, אה?) ואוסטרליה. הפוליטיקאים הזרים התלוננו על הספאם; אזרחים אמריקאים היו מעשיים יותר והגישו תלונה לוועדת הבחירות על שידול בלתי חוקי לתרומות מחוץ לארה"ב.
