דו"ח טכנולוגי
הסכנה האמיתית בבינה מלאכותית היא האדם שכותב אותה
מה יכולות לעשות חברות גדולות עם טכנולוגיות AI בלי מגבלות מוסר או רגולציה, עובדי פייסבוק לא מבינים מה רוצים מהבוס שלהם, דונלד טראמפ יוצא לייבש את המשאב הכי חשוב לעמק הסיליקון ואפל עוברת ל-100% אנרגיה מתחדשת
כשמדברים על הסכנה שמהווה הבינה המלאכותית למין האנושי, נהוג להתמקד באפשרות שתוכנת AI אשכרה תהפוך לתבונית, תחליט משום מה להכחיד את המין האנושי ותצליח לעשות זאת לפני שנספיק לנתק אותה מהשטקר. עם כל הכבוד לסרטים כמו "שליחות קטלנית", אחרי 30 שנות פיתוח AI הגענו לתוכנה עם מנת משכל נמוכה משל חולדה - כך שהפאניקה הזו לא במקומה, גם אם מפיצים אותה מפורסמים כאלון מאסק.
מצד שני, בינה מלאכותית שמנוהלת על ידי בני אדם עם כוונות זדון יכולה להיות אסון חסר תקדים. בואו ניקח לדוגמה את פייסבוק: יש לה אלגוריתם שלאף משתמש אין מושג איך הוא עובד, ומטרתו למקסם את רווחי החברה. נניח שהחברה היתה מחברת אותו למוח מלאכותי חזק. מה היה קורה?
האדם מאחורי המכונה הוא הבעיה האמיתית
אופטימיזציה מוחלטת של ניצול המשתמש; פייסבוק יודעת על אילו כפתורים במוח שלנו צריך ללחוץ - היא מזינה אותנו במידע ומעריכה איך נגיב. נניח שפייסבוק היתה רוצה שכולנו נתמוך ברעיון של מארק צוקרברג כנשיא ארצות הברית. משום שהיא שולטת בפיד שלנו, היתה יכולה להפיץ לנו תוכן מניע, כשה-AI יודעת בדיוק כיצד נגיב ומסוגלת להפציץ אותנו במסרים שפשוט ישטפו לנו את המוח.
למשל, בכל פעם שנחשף גולש לתוכן שמפרגן לרעיון של צוקרברג בבית הלבן, תנתח ה-AI את ההתנהגות שלו: האם עשה לייק? שיתף? האם כתב על זה משהו שלילי? אם פירגן לקמפיין צוקרברג, מיד היה מתמלא הפיד שלו בפוסטים של גולשים שחושבים כמותו - מה שהיה מחזק את העמדה שלו. בנוסף, הפוסט שלו היה מופץ אצל בעלי דעות דומות, מה שהיה מביא לו ריבוא לייקים ותחושת פופולריות. ואם העז לכתוב משהו שלילי על הקמפיין? מיד יופץ הפוסט שלו לפיד של חברים שלא חושבים כמותו, כדי שיגיבו בזעם, יתקפו אותו וייצרו עליו לחץ חברתי. משתמש כזה יחשוב פעמיים לפני שיכתוב שוב משהו נגד פרזידנט מארק.
ופייסבוק היא אפילו לא החברה הכי בעייתית במקרה הזה. בינה מלאכותית יכולה לשמש לאיסוף מידע בהיקף חסר תקדים, למשל בידי גופים כמו המפלגה הקומוניסטית בסין. היא החלה להפעיל מערכת "אשראי חברתי" שמגדירה סנקציות על אנשים שמפרסמים תוכן שלא מתיישר עם תפיסות השלטות. בינה מלאכותית שיודעת לייצר סנקציות על מתנגדי משטר יכולה להפוך את החיים שלהם לגיהנום, ברמה בה יוכלו משטרים אפלים לוותר על הרבה ממערכות הענישה הקיימות; האזרחים עצמם יענישו את הסוררים.
תוכנות במקום מצלמות צילום: shutterstock
יש גם דברים טובים שיכולים לצמוח מ-AI. למשל, שימוש בתוכנה כמנטור שיכווין את המשתמש לתכנים ופעילויות שישפרו את חייו. אבל יש צל גדול שמונח על כל שימוש חיובי בבינה מלאכותית: סוגיית הנגישות. טכנולוגיות מהפכניות חייבות להיות זולות, כדי לאפשר לקהל הרחב לשפר את חייו. למשל, מכונת הכביסה, ששחררה למחצית מהאוכלוסיה המון זמן פנוי. אבל טכנולוגיות יקרות הן דכאניות מטבען, משום שרק ממשלות וחברות ענק יכולות לנצל אותן לטובתן. רובה, שאפשר לבנות בכל מקום, הוא נשק מהפכני שמאפשר לאנשים להתנגד למתקפת אויב או עריצות ממשלתית; פצצת אטום, שמצריכה משאבים של מדינה (ולא סתם מדינה) היא נשק דיכוי.
בהתאם, מדענים מתחילים לדרוש שכל אלגוריתם AI שנמצא בשימוש ממשלתי יעבור בקרה וביקורת שמזכירות את אלה שעוברת המדיניות הסביבתית של הממשלה, כדי לצמצם נזק. הגישה הזו חיובית בבסיסה, אבל היא מתעלמת מעובדה מצערת: השוק הפרטי תמיד ינצח, תמיד יוציא את המיץ לצרכן הקטן.
למה לא מראים מה קרה קודם?
עובדי פייסבוק עוברים ימים משונים על רקע שערוריית הפרטיות הגדולה של החודש האחרון: על פי שורה של סממנים, המוראל של עובדי החברה נמוך כמו ים המלח, אבל הם מתנהגים כמו כל קבוצה תחת התקפה בלתי צפויה: הם פיתחו מנטליות מצור.
קודם כל, הם אומרים, אין פה זדון, רק רשלנות. חוץ מזה, פייסבוק מקדמת טוב אוניברסלי: היא מחברת אנשים. אמנם, היא מחברת עשרות מיליונים מהם למאגרי מידע של קיימברידג' אנליטיקה, אבל היא מחברת אנשים. ובפייסבוק מאמינים בחיבור אנשים, גם אם כמה אנשים יירצחו בגלל זה - כמו שקורה למשל בבורמה, בה אלימות נגד מיעוטים מקודמת ברשת החברתית.
מטה פייסבוק צילום: אי פי איי
המוראל בחברה היה גבוה למדי כשהצונאמי הכה בה, הרבה בזכות מחיר המניה הגבוה. עכשיו העובדים רוצים נואשות שני דברים: שהמניה תחזור לאיפה שהיתה ושכולם יכירו בכך שהיא הרשת החברתית המוסרית ביותר בעולם. זה לא כל כך עובד בינתיים: בחברה מודים שמאז תחילת המשבר, יש ירידה במספר האנשים שמבקשים מקומות עבודה בפייסבוק.
מספר עובדים הצביעו ברגליים ועזבו את החברה בשל גל השערוריות הבלתי פוסק מאז בחירות 2016. אחד ממנהלי המוצר שלה לשעבר כתב בטוויטר ש"מוסרית, המשך העבודה שם הפך לקשה ביותר". הוא סירב להרחיב, עם זאת. בפייסבוק טוענים ששיעור העזיבה בחברה דווקא נמוך יחסית לממוצע.
מלחמת המוחות של טראמפ
נשיא ארה"ב, דונלד טראמפ, החליט להחליש את הליברלים המעצבנים של עמק הסיליקון באמצעות טריק מסוכן: ייבוש המשאב העיקרי של חברות ההייטק - מוחות זרים. 57% מעובדי ה-STEM בעמק הסיליקון שהם בעלי תואר אחד או יותר נולדו מחוץ לארה"ב. הם כוללים כמה מהשמות החשובים ביותר בסביבה, כמו סרגיי ברין מגוגל, דארה קוסרשאהי מאובר, סאטיה נאדלה ממיקרוסופט ועוד.
דונלד טראמפ צילום: גטי אימג'ס
מאז כניסתו לתפקיד, טראמפ עושה כמיטב יכולתו המעורערת להקשות על ילידי מדינות אחרות להשאר בארה"ב. התנאים לוויזות הוקשו, והיכולת לקבל גרין קארד או אזרחות הפכה למסובכת יותר. התוצאה היא שזרים מבריקים מחליטים, בצדק גם אם בכאב, לבדוק מה מציעה קנדה, או מה מציעה צרפת, ובמקרים מסוימים – מה מציעה המולדת שלהם.
מומחים מתחילים לדבר בדאגה על בריחת מוחות, על קושי של עמק הסיליקון לגייס את האנשים שהוא צריך. מצד אחד, זה טוב לעולם. אין סיבה טובה שהמוחות המבריקים יתרכזו כולם בקליפורניה. אין ספק שכמה מהנדסים מוכשרים יעשו רק טוב להודו או ניגריה. מצד שני, לעמק הסיליקון עצמו זה כנראה די רע.
קצרצרים
1. נתחיל בחדשות טובות: אפל מודיעה שהיא לא נשענת יותר על דינוזאורים מתים לצרכי אנרגיה. כל האנרגיה שבה מופעלים המתקנים שלה היא אנרגיה ירוקה ומתחדשת. לפני שנתיים, עמדה צריכת האנרגיה של החברה על 93% אנרגיה ירוקה. במשך שנים, פעלה אפל למען המטרה של הפסקת שימוש באנרגיה מבוססת פחמן, והיא הראשונה שמגיעה ליעד הזה. כדי לוודא שגם החשמל של החנויות שלה נקי, אפל רכשה תעודות אנרגיה ירוקה, שמוודאות שהמקור אכן ירוק. כמו כן, היא משקיעה ביצור אנרגיה ירוקה – סולארית, אנרגיית רוח ועוד – בשלל מתקנים ברחבי העולם.
מטה אפל צילום: רויטרס
2. העמוד הגדול ביותר בפייסבוק שמיוחס לתנועת Black Lives Matter, עם 700,000 עוקבים, לא שייך לה; הוא זיוף שמופעל על ידי איזה אוסטרלי, שיוצר קמפיינים מזויפים לגיוס כספים ואז בורח עם הכסף. תנועת Black Lives Matter התלוננה על העמוד המזויף כבר לפני לפני מספר חודשים, אבל פייסבוק לא עשתה כלום. רק כשהחלה CNN לחפור בנושא, משהו זז - וזה קרה לאחר שבוע של דיונים. בפייסבוק הבינו שזה יכול להיראות רע אם העמוד יישאר שם בזמן שצוקרברג מגיע לחטוף שאלות מהקונגרס, וחיסלו אותו.
3. עוד קצת פייסבוק: ניו זילנד הזדעזעה לגלות שאיסוף המידע האישי של פייסבוק בפרשת קיימברידג' אנליטיקה כלל 63,714 מתושבי האי, למרות שרק עשרה ניו-זילנדים הורידו את אפליקציית החידון שדרכה הושגו הפרטים. נציב הפרטיות של ניו זילנד הודיע שהוא מבקש בדחיפות יותר פרטים מפייסבוק, והאשים את החברה בכך שהיא "מטפטפת" מידע בנושא שעליו ידעה כבר לפני ארבע שנים.
4. אם אתם מעבר לגיל 20, אתם כנראה זוכרים שורה של טכנולוגיות שכבר לא קיימות יותר. פקס, למשל (לא, משרדי ממשלה לא באמת משתמשים בפקס – הם אומרים לכם את זה כדי שתפסיקו להטריד אותם), טלפוני חוגה, כרטיסי חיוג, יאהו, וכמובן טייפים למיניהם. למכשירים הללו היו צלילים יחודיים ולעתים גם ריח יחודי. את הריח עדיין אי אפשר לשחזר, אבל ארכיון חדש העלה לרשת את הצלילים ששכחנו.
