אם האלגוריתם של ענקיות הטכנולוגיה יקרוס הוא ייקח את כולנו איתו

פלינט, שבאוגוסט 2019 פרש מ-HSBC בתום כהונה בת שנה וחצי כמנכ"ל התאגיד, יודע בדיוק איך נראים הימים שלפני משבר חמור. לא כזה שהוא תוצאה של אירוע בלתי צפוי כמו מגיפת הקורונה, אלא משבר מערכתי שנולד כתוצאה מכשלי עומק. ועכשיו, הוא חושש, אנחנו נמצאים בסיפו של משבר נוסף שכזה. "היום, סימני האזהרה שוב מהבהבים", הוא כתב. "חלק מהאלמנטים מוכרים: חברות ענקיות ששאר החברה מסתמכת עליהן ושיגרמו לנזק עצום אם יקרסו, או יספקו תוצאות גרועות ללקוחות שלהן. אבל הפעם מדובר במגזר הטכנולוגי ולא הפיננסי, שישאיר את כולנו חשופים".

במובנים רבים, חברות הטכנולוגיה נמצאות היום איפה שהיו הבנקים וחברות הפיננסים ב-2008 מבחינת היכולת שלהן להצית משבר כלכלי. אם לפני 12 שנה נהנו החברות הללו ממוניטין זוהר ונתפסו כחדשניות, טובות ומועילות, היום הן זוכות לבוז ושנאה שמזכיר את זה שהופנה לבנקים בעשור הראשון של המאה ה-21. המשתמשים לא אוהבים את החברות, אך - בדומה לבנקים - נאלצים להשתמש במוצרים בהעדר אלטרנטיבה, והטינה נגדן הולכת וגדלה.

פירוק ענקיות הטכנולוגיה

במיוחד, כפי שטוען פלינט, מכיוון שבשעת האמת, המשתמשים הם אלה שיספגו את המכה הגדולה ביותר. "הסיכון לצרכנים מצד חברות הטכנולוגיה חמור היום כמו זה של הסקטור הפיננסי. אבל אנחנו לא מאורגנים להתמודד איתו. הכלכלה הדיגיטלית אוכלת את הכלכלה הישנה והמבנה הממשלתי שיש לנו כדי להתמודד עם המעבר אינו מתאים", כתב ב"פייננשל טיימס".

גם זו נקודת דמיון חשובה ל-2008: המשבר נוצר בעקבות תרגילים פיננסיים מורכבים של בנקים מסחריים ובנקי השקעות, שהתאפשרו בגלל רגולציה חלשה או העדר רגולציה אפקטיבית. בחודשים האחרונים, מחוקקים אמריקאיים עשו הרבה כותרות כשזימנו את מנכ"לי ענקיות הטכנולוגיה לשיחות נזיפה והשפלה בקונגרס, אבל פרט ליצירת חומרי גלם בעבור מנחי תוכניות לייט נייט, לא היתה לדיונים אלו השפעה כלשהי על פעילות החברות.

"30 שנות עבודתי כבנקאי דרשו ממני להביט לעתיד ולצפות סיכונים", הוסיף פלינט. "אני יכול לומר בבטחה שסימני האזהרה מופיעים. אנחנו חייבים לפעול עכשיו". ומגיפת הקורונה, לדבריו, רק החריפה את הצורך בפעולה מיידית. המגיפה הבליטה והעמיקה את התלות שלנו בטכנולוגיה, לא רק באופן ישיר כמו שיחות וידיאו, אלא גם דרך המידע שאוספות החברות על מנת להחליט אילו פרסומות להציג לנו, התלות שלנו במערכות המקוונות לקבלת מידע אמין, וההאצה של שינויים דיגיטליים בסקטורים שונים, שקיצרו לוחות זמנים של שנים לחודשים ספורים.

"ובכל זאת, האלגוריתמים שקובעים כמה עבודה יקבלו שליחים ומה אנחנו רואים ברשת לא מובנים היום יותר מהמבנה של מוצרי האשראי שהכניעו את מערכת הבנקאות במשבר הכלכלי. אנחנו צריכים לנהל את הסיכונים של דיסאינפורמציה וללמוד איך לנהל תוכן. אנחנו צריכים להבין האלגוריתם מאשש ומקדם אפליה. וכשנבין איך זה עובד, צריך להיות ברור מי אחראי לכך. אי אפשר לפטר אלגוריתם", אמר פלינט.

האזהרה כאן ברורה: המשבר של 2008 נגרם כי התעשייה הפיננסית פיתחה מוצרי פיננסיים מורכבים – משכנתאות בסיכון גבוהה שנארזו בחבילות, חולקו לנתחים, ונמכרו בשרשרת מתמשכת ממוסד למוסד, כאשר בכל שלב הסיכון משתרשר ועולה, מוצרים שאפשרו למשקיעים להמר למעשה על כישלון של משכנתאות או הלוואות ועוד שלל מוצרים שלא יצרו ערך אמיתי לציבור והרגולטורים לא היו מודעים לסיכוניהם, ושספק אם הגופים עצמם הבינו איך הם עובדים.

את מקומם של מוצרים אלו תופס עתה האלגוריתם הדיגיטלי שנמצא בליבת מרבית השירותים המקוונים שאנו צורכים. ואם לגבי המוצרים הפיננסים אפשר היה לשער שהבנקים לא יודעים איך הם עובדים, במקרה של מערכות בינה מלאכותית מבוססת למידת מכונה לא צריך לשער בכלל. אי-הבנת אופן הפעולה של האלגוריתם, הדרך שבה הוא מחליט החלטות ומגיע למסקנות, היא חלק כל כך מובנה ממערכות אלו שיש לה שם: קופסה שחורה. מידע גולמי שנכנס לקופסה ומידע מעובד שיוצא ממנה וכולנו סומכים על המסקנות.

המסכים האדומים בוול סטריט במשבר הכלכלי של 2008 צילום: אי פי אי

"זה לא אומר שמשבר ענק בקנה המידה של 2008 נמצא מעבר לפינה", הבהיר פלינט. "אבל יש סיכון משמעותישאנחנו לא צריכים להתעלם ממנו. המורכבות העצומה של הסיכון שמציבות חברות הטכנולוגיה הופכת את האתגר של התמודדות איתו למאיים. אבל אנחנו יכולים לפעול בצורה טובה אם נשתמש בעבודה שנעשתה במגזר הפיננסי כמודל. המסקנה המרכזית של משבר 2008 היתה שיש צורך ברגולציה קפדנית יותר במצבים שבהם האינטרס הציבורי תלוי בעסקים שקיימים על מנת לשרת את צרכיהם של בעלי הון".

קודם ל-2008, ציין פלינט, רגולטורים נקטו בגישה של מגע קל, והסתמכו על היכולת של בנקים לנהל את עצמם. בפועל, זה המעמד של חברות הטכנולוגיה כיום. הרגולטורים שלהן חלשים, לא אפקטיביים או פשוט לא מתעניינים, והן אלו שמחליטות בפועל אילו כללים ולפי אילו תקנות הן יפעלו. מדי פעם, כשהן עושות טעות גסה במיוחד, הן משתעלות איזה כופר סמלי לאיזו רשות כלשהי (כמו 5 מיליארד הדולר הלא-משמעותיים ששלמה פייסבוק ל-FTC בפרשת קיימברידג' אנליטיקה, או 10 מיליון היורו המגוחכים שחויבה אפל לשלם באיטליה בפרשת האטת האייפונים) וממשיכות לעשות ככל העולה על רוחן.

נדרשת כאן רגולציה חזקה, אפקטיבית ומהירה. פלינט מציע מודל דומה לזה של ה-Financial Conduct Authority (FCA), שהוקמה בבריטניה בעקבות המשבר הכלכלי הגדול, והצליחה לחייב את הבנקים במדינה לפעול בשקיפות גדולה הרבה יותר ואפשרה לזהות מי אחראי למה במקרה שדברים משתבשים. השקיפות העצימה לקוחות לקבל החלטות מיודעות, הטלת האחריות הקטינה את התיאבון של הבנקים לסיכונים. "אנחנו צריכים משהו שאפתני שכזה כדי להתמודד עם הסיכונים של הטכנולוגיה", הוא סיכם.

בסופו של יום, היחיד שיכול לעשות את הבדל הוא רגולטור שמחזיק ביכולות לאלץ את החברות לשנות את פעילותן. למרבה הצער, אם ממשיכים עם האנלוגיה של פלינט ובודקים את מצב רגולציית הבנקים בארה"ב, התמונה לא מעודדת. אחרי המשבר של 2008 הצליח הקונגרס לקדם רגולציה הדוקה מעט יותר על המערכת הפיננסית במדינה, אך בשנים שלאחר מכן החקיקה והתקנות רוקנו מתוכן והמצב בפועל לא שונה משמעותית מכפי שהיה ערב המשבר. היה צריך משבר ענק שכמעט שבר את הכלכלה העולמית כדי להזיז מעט את המחט לכיוון של רגולציה משמעותית מעט יותר, וגם זה לא החזיק מעמד יותר מדי זמן.

וכשזה המצב, איזה סיכוי אמיתי יש להטיל רגולציה בארה"ב על ענקיות הטכנולוגיה עוד לפני שיש משבר? ייתכן שבאיחוד האירופי ובבריטניה יצליחו לעשות משהו. אבל כל ענקיות הטכנולוגיה הן חברות אמריקאיות, ושינוי אמיתי בפעילותן יכול להתבצע רק בארה"ב. הנשיא הנבחר ג'ו ביידן אמנם מעוניין לייצר שינוי שכזה, אבל אם לקחי 2008 למדו אותנו משהו, הוא שזה יהיה קרב קשה מאוד, אולי אפילו בלתי-אפשרי.