שקר הניטרליות: מיתוס האלגוריתם האובייקטיבי

הסערה שעוררה פרשת "אלגוריתם־גייט" של פייסבוק נראית במחשבה עמוקה מעט קצת בלתי פרופורציונלית ביחס לגילויים שבחובה. הפרשה התפוצצה אחרי שעובדים לשעבר ברשת החברתית חשפו שהאלגוריתם ששולט באזור הנושאים החמים בפייסבוק אינו אוטומטי לחלוטין, אלא מכוונן, מנווט ונשלט בידי צוות של עורכים אנושיים. חמור לא פחות, עובדים לשעבר שהיו חלק מצוות זה אף ניצלו את כוחם כדי לצמצם את החשיפה של פוסטים פרו־שמרניים ולקדם נושאים ליברליים.

הסיבה לסערה היא מיתוס שעמק הסיליקון מקדם בכוח רב זה שנים רבות, מיתוס שאפשר לכנות "חוכמת האלגוריתם". כמעט כל חברת טכנולוגיה, חדשה או ותיקה, אוהבת להתהדר באלגוריתם שלה, המתכון הסודי להצלחתה, נוסחה מתקדמת שפותחה בידי מדעני־העל שלה ומסוגלת לעשות הכל: למצוא את הטיסה הזולה ביותר, את מסלול הנסיעה המהיר ביותר, את תוצאת החיפוש הטובה ביותר או את הסרטון המצחיק ביותר. החברות רוצות שנאמין שהאלגוריתם הוא האלוהים - חכם, לומד כל הזמן, לא עושה אותה טעות פעמיים ותמיד תמיד משתפר ובעיקר עצמאי, אובייקטיבי וחף מטעויות אנוש.

אין אלגוריתם אובייקטיבי איור: דניאל גולפרב

המיתוס הזה הוא במידה רבה שקר, אולי אפילו בולשיט מוחלט. ראשית, כי אין דבר כזה אלגוריתם עצמאי. במציאות אין אלגוריתם שמשוחרר לשטח ומתחיל לפעול ללא מגע יד אדם. כל אלגוריתם, שזה אגב שם משוכלל לקוד תוכנה, עובר עדכונים והתאמות בידי מפתחיו לאורך הדרך, בין שבקוד הבסיס עצמו ובין שבפרמטרים שמגדירים את פעולתו.

הדוגמה הכי מוצלחת לכך היא כנראה מנוע החיפוש של גוגל. החברה בנתה במשך שנים תדמית שלפיה האלגוריתם שלה אובייקטיבי לחלוטין ומציג תוצאות חיפוש על סמך מדדים אובייקטיביים כמו תוכן האתר או קישורים אליו מאתרים אחרים. מצג זה הוא ככל הנראה שקר מוחלט, כפי שגילו באיחוד האירופי, שם הוגש נגד החברה כתב אישום בטענה ששינתה את תוצאות החיפוש שלה כדי לפגוע בפעילותם של שירותים מתחרים. לפי דיווחים, גוגל עלולה לספוג בשל פעולה זו קנס של 3 מיליארד יורו בגין הפרת חוקי הגבלים עסקיים - הקנס הגבוה ביותר שהוטל על חברה עד כה.

במובן זה, המעשה של פייסבוק לא שונה במיוחד מזה של גוגל. בשני המקרים בני אדם התערבו בפעילותו של האלגוריתם כדי לשנות את התוצאות שהוא מייצר. ההבדל העיקרי היה באופן ההתערבות ואולי גם בהיקפה. וגוגל ופייסבוק הן לא היחידות. כל חברה מתערבת באופן קבוע בפעילות האלגוריתם שלה, אם כדי לשפר את פעילותו ואם למטרות אחרות, ישרות יותר או פחות. 

מארק צוקרברג. רוצה שנאמין שהאלגוריתם חף מטעיות צילום: צילום מסך

אבל שקר האלגוריתם עמוק עוד יותר. כי גם אם אף חברה לא היתה עושה שום שינוי באלגוריתם שלה מרגע הפצתו, וגם אם האלגוריתם חכם ומתקדם מספיק כדי ללמוד ולהשתפר בלי צורך בהתערבות אנושית כלשהי, הוא עדיין לא היה אובייקטיבי בשום אופן. כי בסופו של יום, כל אלגוריתם — בין שהוא מפעיל מנועי חיפוש או אפליקציות ניווט ובין שהוא מפעיל שירותי השוואת מחירים - נכתב בידי אדם בשר ודם.

"אין דבר כזה אלגוריתם ניטרלי, כמו שכנראה מעולם לא היתה עיתונות ניטרלית", אמר ל"וושינגטון פוסט" פרופ' פיליפ נאפולי מאוניברסיטת ראטגרס. “מישהו יוצר אותם, מפתח אותם לאורך זמן ומכוונן אותם. ואין יוצר אחד. מדובר בתוצאה של שנים על גבי שנים של שינויים וכיוונונים, עם אנשים שונים שמגיעים ותורמים את חלקם".

כל אלגוריתם מושפע באופן זה או אחר מהמטרות של מפתחיו. התקשורת הזדעזעה כשגילתה שעובדים של פייסבוק התערבו בפעילות האלגוריתם שלה כדי לווסת את פעילותו, אבל האמת היא שהרשת החברתית היתה יכולה להגיע לתוצאה דומה פשוט באמצעות תכנות האלגוריתם באופן שהיה גורם לו לסבול מאותה הטיה באופן קבוע, ללא התערבות העובדים.

אז מה עושים עכשיו? סוגרים את כל האלגוריתמים ומחליפים אותם בעכברים חרוצים שרצים על סרט נע? ברור שלא. שירותי הרשת המודרנית ואפליקציות המובייל לא אפשריים ללא אלגוריתמים. גם אי אפשר לצפות מהמפתחים לשמור על ניטרליות מוחלטת או להימנע מהתערבות או כיוון האלגוריתמים.

הדבר היחיד שאפשר לעשות הוא לזכור שאין דבר כזה אלגוריתם ניטרלי, וכשאפליקציה ממליצה על בית עסק או כשמנוע חיפוש מציג תוצאות לשאילתה, לא מדובר בהכרח בתשובה האובייקטיבית הטובה ביותר. בקיצור, לזכור שבסוף כל אלגוריתם יושב מתכנת עם נרגילה.