בינה שוביניסטית: מערכות AI לומדות לזלזל בנשים

זה לא סוד שהעולם שלנו נגוע במיזוגניה, זלזול בנשים ופגיעה בזכויות הבסיסיות שלהן - דבר שבולט במיוחד בתעשיית ההייטק, שמתיימרת להיות פתוחה ולהתמקד ביכולותיו והישגיו של אדם ולא במינו. ואולם, נראה שהמצב צפוי להחריף: אפילו התוכנות מחזיקות בתפיסות פרימיטיביות על נשים.

חוקרי AI נדהמו לגלות שבוטים מגלים נטיות מיזוגניות, דבר שרק הולך ומתגבר אצלם. למשל, התוכנה משייכת כל מה שקשור לעבודה במטבח עם נשים – עד כדי כך שכאשר בוט רואה תמונה שבה מוצג גבר עומד ליד הכיריים הוא מגדיר אותו כאישה. בנוסף, כבר נודע שבוטים שסורקים טקסט שמגיע מגוגל ניוז נגועים בהטיות מגדריות. למשל, כשנכתב לאחד מהם "היחס בין גבר לתכנות הוא כמו היחס בין אישה ל.." השלים הבוט "עקרת בית". ג'יימס דיימור, המהנדס המיזוגן שנבעט מגוגל לאחרונה, היה בטח גאה בו.

התוכנה חושבת שאת שווה פחות

ואנחנו צריכים לדבר על דיימור, כי בסופו של דבר בוטים ותוכנות אחרות לא מייצרים את ההטיה בעצמם. הרובוט של גוגל שהצביע ב-2015 על אנשים שחורים כעל "גורילות" לא הגיע למסקנה הזו על דעתו. חוקרי AI בחנו לעומק את מאגרי התמונות בעזרתם מלמדים בינה מלאכותית לזהות אלמנטים בתמונות. במאגרים עצמם יש הרבה יותר תמונות של גברים משל נשים (למרות שהן מהוות 51% מהאוכלוסיה). ומה עושות הנשים בתמונות? מבשלות, מטפלות בילדים, קונות מצרכים; הבינה המלאכותית נשענת על תפיסות משנות החמישים.  

אז מה עושים? בתור התחלה, שולחים את כלי הבינה המלאכותית לחינוך מחדש ומתקנים את מאגרי התמונות הנ"ל. במדינות המערב נפוצים בשנים האחרונות ספרי ילדים בהם מתואר העולם כפי שהוא אמור להיות, לא כפי שהוא: יותר נשים בתפקידי עבודה, יותר מיעוטים. המטרה של הספרים הללו היא להוות חיסון נגד מיזוגניה וגזענות. אולי צריך לנקוט גישה כזו גם כלפי תוכנות ובוטים. מה שבטוח, בינתיים, הוא שאסור לטעות ולראות בהם משהו "אובייקטיבי". הם ניזונים ממידע שאספו, קיטלגו והכינו עבורם בני אדם עם גישה מיזוגנית. וכדאי לעשות משהו בעניין בהקדם, שכן תוכנות לומדות מהר מאוד והופכות למוצרים מהר מאוד. לא הייתם רוצים שהבת שלכם תשתמש בשירות מקוון שיתייחס אליה כנחותה, נכון?

אל תתנו להם רובים

115 חוקרים, מנכ"לים ומייסדי חברות AI, יחד עם אלון מאסק אחד, פנו לאו"ם בתחינה שיאסור על שימוש בנשק רובוטי. כאן צריך לבצע הבחנה בסיסית בין נשק אוטונומי למחצה ונשק אוטונומי במלואו. הסוג הראשון מבצע שורה של פעולות (למשל, טיסה מעל היעד) כמעט עצמאית, אבל מקבל את פקודות הירי שלו ממפעיל אנושי; הסוג השני יכול לקבל החלטות בעצמו, לרבות האם לירות במישהו או לא.

רובוטים מהסוג הראשון נמצאים בשימוש כבר כמה עשרות שנים. מל"טים הם כאלה, כמו גם שורה של כלי רכב עצמאיים. במובן מסוים, גם כלי נשק עם יכולת עקיבה אוטומטית הם כאלה: מכ"מ שמזהה מטרה ונועל עליה טיל קרקע-אוויר, מערכת שמזהה אדם שחוצה גבול ונועלת עליו מקלע, תותח של ספינה שמזהה תנועה חשודה ומתמקד בעצמו במטרה - כולם משאירים בידי המפעיל האנושי רק את הלחיצה על ההדק. אין עדיין מערכת נשק שהיא אוטונומית לחלוטין, ברמה של קבלת החלטות.

אל תתנו להם רובים צילום: איי אף פי

ואולם, זה הכיוון הלוגי שמלחמת המל"טים לוקחת אותנו אליו. המטרה הלא מוצהרת היא להקטין את המחיר הפוליטי הביתי של מלחמה. מלחמות נגמרות או כשצד אחד משיג הכרעה – שב-50 השנים האחרונות היא חיה מיתולוגית בסכנת הכחדה – או כשלציבור של אחד הצדדים נמאס מהמלחמה. הסיבה למיאוס ציבורי ממלחמה היא בדרך כלל מחירה, בדמות חיילים הרוגים, פצועים או הלומי קרב. אם יש מספיק בתים שאליהם לא חזר מישהו, יהיה לחץ פוליטי לסיים את המלחמה. רובוטים משנים את המשוואה: אף אחד לא מתאבל עליהם ואף אחד לא שומע את סיפורם. אם הם מושמדים, זה בסך הכל עוד סעיף בהוצאות הבטחון, שממילא אף אחד לא יכול לעקוב אחריהן.

לרובוטים יש יתרון נוסף. הסוד האפל של מלחמות עממיות, כלומר שבהן המלחמה היא נגד חלק מהאוכלוסיה ולא נגד צבא סדיר, הוא שאי אפשר לנצח בהן בלי פשעי מלחמה. כלומר, בכלל לא בטוח שפשעי מלחמה יעזרו; התיאוריה המקובלת אומרת שהם אסון, כלי הגיוס העיקרי של הגרילה; אבל חיילים שנמצאים יותר מדי זמן באזור שבו אי אפשר לזהות את האויב יבצעו אותם בכל מקרה. וכשיש פשעי מלחמה, לפעמים חיילים מועמדים לדין - מה שפוגע במוראל. וזה יכול להגיע לרמות מאוד אלימות:  הצבא האמריקאי התפרק בוויאטנם, עד למצב שבו חיילים חיסלו את הקצינים שלהם; והצבא הצרפתי ניסה למרוד בדה גול והיה צריך לדכא אותו בדם ואש.

ועל כן עולה הפיתוי לקחת את הרכב המעופף שלך, לשים עליו תותח וולקן, לתת לו אלגוריתם לזיהוי מטרות ולקוות לטוב. אתה חוסך הרוגים, אתה חוסך חיילים מתוסכלים, ואם מישהו ייהרג למטה – נו, תמיד אפשר יהיה לומר שהוא היה בגיל צבא ולכן מטרה לגיטימית.

זה התסריט האופטימי: פיקוד צבאי שנמצא בשליטה אבל מתנער מאחריות. התרחיש הפסימי הרבה יותר, זה שממנו חושש מאסק, הוא שאם הצבא הצרפתי היה מסוגל להתמרד ולנסות לרצוח את הנשיא גיבור המלחמה שלו, אין סיבה שצבא של רובוטים לא יעשה בדיוק את אותו הדבר. ובעוד הצרפתים ההם היו פטריוטים זועמים

רק שבניגוד למורדים הצרפתים, שבסופו של דבר היו פטריוטים זועמים ומתוסכלים, שברגעי המשבר היססו לתקוע חרב בלב המולדת, לרובוטים לא יהיו שום מעצורים כאלה. האם החששות מוצדקים? ימים יגידו. בינתיים, נקווה שמפתחי ה-AI ישתמשו בכלל הרפואי הבסיסי: primum non nocere, "ראשית אל תזיק".

גזענות? לא אצלנו

בריטניה עושה צעד גדול קדימה: שירות התביעה של הכתר הודיע שהוא מתכוון להתחיל להתייחס לפשעי שנאה ברשת באותה החומרה שבה הוא מתייחס לפשעי שנאה ברחוב.

תוכן שנאה? לא ברשת הבריטית

התביעה הגיעה למסקנה שפשעי שנאה מקוונים גוררים פשעי שנאה במרחב הפיזי, משום שדיבור שנאה יוצר לגיטימציה לשנאה. מספר פשעי השנאה אחרי הצבעת הברקזיט בבריטניה זינק פי 5: הגזענים ראו בהצבעה לגיטימציה ציבורית לתפיסה שלהם. בתביעה הבריטית אמרו שהמשמעות של ההחלטה שלהם תהיה, בלי ספק, עליה חדה בהגשת כתבי אישום כנגד דיבור שנאה – ותזכורת למה שהם מכנים "בריגדת הטרולים" שלמעשים יש השלכות.

בתביעה מתכוונים להבחין, בבואם להגיש כתבי אישום, בין יצרני תוכן השנאה ובין האנשים שבסך הכל חוזרים עליו ומגבירים אותו. בשנים 2015-2016, ציינו שם, הוגשו 15,442 כתבי אישום כנגד מבצעי פשעי שנאה – ועכשיו הולכת להיות הרבה יותר עבודה. נקווה שדבר כזה ייושם גם בארצנו: הרשת הישראלית מלאה גזענות, פחד, שנאת חינם וזוועות אחרות שדולפות להן לרחוב.

קצרצרים

1. המאבק בין קספרסקי ובין המודיעין האמריקאי עולה מדרגה: שבועות מספר לאחר שנשלל מחברת הסייבר הרשיון הנדרש לעבודה עם הממשלה הפדרלית, החל ה-FBI לעדכן חברות פרטיות שקספרסקי מהווה סכנה לבטחון הלאומי ולהפעיל עליהן לחץ להפסיק להשתמש בשירותים שלה. הטענה על כך שהתוכנה של קספרסקי מכילה דלתות אחוריות בעייתית ומשונה, בהתחשב בכך שהחברה הסכימה להעביר את קוד המקור שלה לבדיקת ממשלת ארה"ב - שדחתה את ההצעה. בקספרסקי מאשימים עובדים ממורמרים בהפצת שמועות זדוניות על החברה. יש, כמובן, עוד כמה אפשרויות. למשל, שמתחרה אמריקאי מפעיל קשרים בממשל. אחרת היא שסוכנויות המודיעין של ארה"ב אוהבות את הנקמה שלהן קרה, וזוכרים היטב שקספרסקי היא שחשפה את סטוקסנט והפיצה את המידע עליה.

יוג'ין קספרסקי, מנכ"ל ומייסד החברה צילום: אוראל כהן

2. קבוצת ההאקרים Mr. Smith מתכוונת להפוך את עצמה לאויב הציבור מס' 1:היא איימה להדליף את הפרק האחרון בעונה של משחקי הכס. אמנם, לאור מצב העלילה – אם אפשר לקרוא לזה כך – בפרק ששודר שלשום ספק אם יש למה לצפות, אבל המשמעות תהיה כמות של ספוילרים שאף צבא של מתים מהלכים לא יעמוד בהם. המטרה היא ככל הנראה להגביר את הלחץ על HBO. נקווה שהחברה לא תכנע לסחטנות.

3. אולי הלקח המרכזי מכל פרשת הנאציזם ברשתות חברתיות היא שאסור לצפות מחברות מסחריות למוסר כלשהו. במשך שנים הן התחזו למקדמות דמוקרטיה – פייסבוק התמחתה בכך – אבל בפועל קידמו רק את הרווחים שלהן. שזה לגיטימי, אם אתה מאמין שתאוות בצע ממוסדת מובילה איכשהו לטובת הציבור. המטרה העיקרית של כל חברה היא לעשות כסף. כדי לשכנע אנשים ליצור עבורן תוכן, החברות העמידו פני תומכות דמוקרטיה. ואז הגלגל התהפך, הניאו נאצים התגלו כנאצים ולא כ"אלט רייט", החלה תגובת נגד ציבורית קיצונית, וחברות המדיה החברתית החלו לסלק את הגזענים. לא שאני מתנגד, אבל בחיאת רבאק; פייסבוק העניקה סיוע במשך שנים לאתרי הכחשת שואה. היה צריך מאבק ציבורי ניכר כדי לגרום לגוגל להעלים תוצאות הכחשת שואה מחיפושי שואה. תעשו את הזלוטס שלכן, אבל אל תעמידו פנים שאתן פועלות למעננו.

4. הגלגל לא סיים להתהפך: אתר שמכנה את עצמו "שמרני" בקנדה, Rebel Media, מדווח שניתקו אותו מהאינטרנט והוא לא זמין למשתמשיו ברחבי העולם. מסתבר שההתמחות של האתר ה"שמרני" היא נאצות כלפי מוסלמים ומהגרים. מייסד האתר, אחד בשם עזרא לבאנט, טען בפני רויטרס שהוא קיבל התראה של 24 שעות לפני שהאתר שלו נשלח לחור השחור. לבאנט לא נקב בשם שירות האכסון שלו, אבל טען שמדובר בצנזורה פוליטית מפחידה. לבאנט השתדל לא להתייחס לעובדה שהאתר שלו הביע תמיכה במצעד הרצחני בשרלוטסוויל. כל הבלאגן גרם להתרחקות פומבית של פוליטיקאים קנדים מרבל מדיה, וזה כנראה הוביל ללחץ על המאכסן שלה לנתק את האתר מהחמצן.

5. כנראה שמצב הבטחון האישי בסין נמצא בשפל פראי, כי בספטמבר הקרוב תושק בקול תרועה בעיר קינגדאו האפליקציה Jinyiwei. כמו כל אפליקציה לאחרונה, ג'יניוויי משווקת את עצמה כ"אובר ל"; במקרה שלנו, אובר למאבטחים. היא מבטיחה לאנשים שחוששים לשלומם את היכולת לשכור בכמה הקלקות מאבטחים ממאגר של 50,000 מהם, כמו גם 47 חברות אבטחה, אם מאבטח אחד לא יספק את צרכיך. בחברה אומרים בגאווה שכל המאבטחים שלהם הם בוגרי צבא סין, שלא ניהל מלחמה אלא כנגד אזרחים ב-40 השנים האחרונות, ושהחמושים בדימוס עברו גם אימונים בנימוס ויגיעו אליך קומפלט עם מדים. משתמשים סינים כבר תהו מה הטעם במשטרה, אם יש כאלה.