השליט הממוחשב מתעכב

"יום אחד מחשבים עם אינטליגנציה מלאכותית יסתכלו עלינו לאחור באותו אופן שבו אנחנו מסתכלים על שלדים מאובנים במישורי אפריקה: קוף זקוף שחי באבק עם שפה וכלים מגושמים, מוכן להיכחדות". נבואת הזעם הזאת עומדת במרכז "אקס מכינה", מותחן עתידני מבריק שהבליח על מסכי הקולנוע בארץ השנה, ומנסה לדמיין את היום הרה הגורל שבו מחשבים יתחילו לחשוב בעצמם. זה תרחיש שמעסיק בקדחתנות עתידנים, גורואים טכנולוגיים וחובבי מדע בדיוני - אבל היום הזה, מעריך כעת כלכלן בכיר, פחות קרוב משאולי היה נדמה לנו.

נקודת המפנה שבה הבינה המלאכותית פותחת פער ומשאירה את האינטליגנציה האנושית מאחור זכתה בשנים האחרונות לכינוי חצי רשמי: הסינגולריות. יש לא מעט אנשים, בעיקר בעמק הסיליקון, שמשוכנעים שהיא מעבר לפינה. למשל ריי קורצווייל, חלוץ זיהוי השפה הממוחשב ונביא הבינה המלאכותית וכיום גם בכיר בגוגל, שכתב על זה רב־מכר: "הסינגולריות מתקרבת". בחזון של קורצווייל, בעתיד הלא כל כך רחוק, הבינה המלאכותית תעזור לרפא מחלות, למגר את העוני ולפתור את בעיות האנרגיה. בהמשך גם נוכל לטעון את התודעה שלנו לענן הממוחשב, נתאחד עם המכונות, וכך נחיה לנצח. זו גם התוכנית האישית של קורצווייל.

לא מפתיע שחזון כזה מגיע מעמק הסיליקון, המקום שבו מכוניות ללא נהג כבר נוסעות ברחובות. ואם רוצים, אפשר למצוא לו גם ביסוס במספרים: לפי ההערכות, אם הטכנולוגיה תמשיך להתקדם בקצב הנוכחי, בעוד שנתיים למחשבי־על תהיה אותה יכולת חישובית כמו למוח האנושי: 10 בחזקת 18 חישובים בשנייה. המחשבים נושפים בעורפנו, כמו שטוענים גם אינספור מחקרים שמסבירים כיצד עוד ועוד מקצועות יעברו מן העולם בסיוע רובוטים חדורי מוטיבציה.

ובכל זאת: האם הסינגולריות באמת בפתח? זו השאלה שעליה מנסה לענות פרופ' וויליאם נורדהאוס, כלכלן נודע מאוניברסיטת ייל (פול קרוגמן, כלכלן וחתן פרס נובל, היה פעם עוזר המחקר שלו). לפי הניתוח של נורדהאוס, שאותו הוא מפרט במאמר מכה גלים שפרסם בחודש שעבר, מי שמצפה בכיליון עיניים לסינגולריות ייאלץ לחכות. ומי שמפחד ממנה, יכול להירגע. בינתיים.

עובדים בשוליים

המחשבים הסופר־חכמים יהיו "ההמצאה האחרונה שלנו". כך התנבא כבר לפני 50 שנה חלוץ המחשוב הנודע אירווינג גוד. בחזון שלו, ברגע שהאדם יצליח ליצור מכונה חכמה ממנו, הוא יסיים את תפקידו כממציא - כי את המכונות הבאות המחשבים כבר יתכננו בעצמם. גוד ראה ברגע הזה, שאותו כינה "התפוצצות האינטליגציה", רגע של תקווה. למעשה, הוא חשב ש"הישרדות האדם תלויה בהצלחתו בבניית מכונה אולטרה־אינטליגנטית".

אבל לא כולם חולקים את האופטימיות הזאת. ג'יימס בארט, שפרסם לפני שנתיים ספר מדובר העוסק בסכנות הבינה המלאכותית, ניסח את החששות היטב בראיון ל'"כלכליסט": אנחנו שולטים בכוכב הלכת שלנו "לא כי אנחנו היצור הכי חזק, הכי מהיר או הכי יפה על כדור הארץ, אלא כי אנחנו היצור הכי חכם. כשנחלוק את הכוכב הזה עם יצורים חכמים מאיתנו, הם שיקבעו".

בין שחזון הסינגולריות מעורר תקווה ובין שהוא מבהיל, ברור שיש לו משמעויות כלכליות. כפי שנורדהאוס מנסח זאת, ברגע שנגיע לסינגולריות, "הצמיחה הכלכלית תואץ באופן חד הודות לקצב גובר והולך של שיפורים טכנולוגיים שיחלחלו אל כל הכלכלה". כשהמחשבים יהפכו לחכמים יותר מבני האדם בכל התחומים, האנושות תמלא תפקיד שולי בלבד במשחק הכלכלי.

אבל אם הסינגולריות באמת מתקרבת, מסביר נורדהאוס, אנחנו כבר אמורים לזהות סימנים מעידים. זה הרעיון שעומד בלב המאמר שלו: אם הטכנולוגיה נמצאת על נתיב צמיחה מואצת, רגע לפני זינוק מטורף קדימה, אנחנו צריכים לראות את זה בנתונים. וזה מה שהוא יוצא לחפש.

בעולם שבו המכונות החושבות מסוגלות לעשות הכל, המרוויחים הגדולים הם מי שמחזיקים בהן: בעלי ההון, שיגרפו לכיסם כמעט כל מה שהכלכלה מייצרת

אין סימנים

אז האם הסינגולריות בפתח? בעזרת מודלים כלכליים סטנדרטיים למדי, נורדהאוס מנסח שבעה מבחנים שונים שנועדו לסייע בקביעה אם אנחנו נמצאים רגע לפני מפץ טכנולוגי־כלכלי. חלקם מתבקשים - למשל, אם אנחנו ערב זינוק טכנולוגי מסחרר, כבר עכשיו אנחנו אמורים לייצר יותר ויותר בכל שעת עבודה (או בז'רגון המקצועי, אנחנו אמורים לראות זינוק בפריון).

חלק מהתחזיות מפתיעות יותר. בעולם של הסינגולריות, שבו המכונות החושבות מסוגלות לעשות הכל, המרוויחים הגדולים הם כמובן מי שמחזיקים במכונות: בעלי ההון, שיגרפו לכיסם כמעט כל מה שהכלכלה מייצרת. ועדיין, הצמיחה אמורה להיות כל כך מסחררת, עד שבשלב הזה גם משכורות העובדים ירשמו עלייה מרשימה של לא פחות מ־200% בשנה.

אבל כאשר נורדהאוס מנסה לבדוק אם הסימנים בשטח מעידים על בוא הסינגולריות, הוא מקבל תשובה שלילית. הפריון לא צומח באופן מואץ, השכר הממוצע מדשדש במקום, מחיר הציוד הקבוע שרוכשות חברות לא נמצא בירידה מואצת, וכך גם ברוב המבחנים האחרים.

למעשה, רק שתיים מהבדיקות של נורדהאוס חיוביות: חלק גדל והולך של ההכנסה הלאומית מגיע לידי בעלי ההון, וחלק גדל והולך מהציוד הקבוע של חברות מורכב מדברים כמו ציוד מחשבים ותוכנה. אבל גם לפי הקריטריונים האלה, מהחישובים עולה שהסינגולריות תגיע רק בעוד מאה שנה.

המסקנה של נורדהאוס: הסינגולריות לא בפתח. אנחנו לא ניצבים בפתח עידן שבו לאדם אין שום תפקיד בכלכלה. הטעות של נביאי הסינגולריות, לפי נורדהאוס, היא שהם מסתכלים רק על ההתקדמות בתחום המחשבים ולא על התמונה המלאה: "כדי שהיכולות המשתפרות של המחשבים יובילו לסינגולריות, הבינה המלאכותית צריכה להיות מסוגלת למלא את כל הפעילויות האנושיות ולא רק לחבר מספרים, לפתור משוואות, לשחק שח ולפרש דיבור. היא צריכה גם לסעוד חולים, לקרוא לילדים סיפורים לפני השינה ולתקן פנצ'רים".

הביטחוניסטים שוב ירוויחו

באופן לא מפתיע, תומכי הסינגולריות לא לגמרי משתכנעים. יש מי שטוען שהמדדים הכלכליים פשוט לא מצליחים לבטא את עומק השינוי המתחולל בימים אלה, טענה שנורדהאוס צופה מראש ומנסה להפריך במאמר; אחרים מספקים טיעון משכנע יותר: על הסינגולריות צריך לחשוב לא כעל תהליך מתמשך שאפשר לזהות, אלא כעל מהפכה, כזאת שתגיע בבת אחת.

בכל מקרה, גם אם הסינגולריות תגיע, יש מי שימשיך להתפרנס: מערכת הביטחון. "אם חושבים על העולם שבו קיימת סופר־אינטליגנציה מלאכותית כעל עולם שבו יש תחרות בין בני אדם לבין מכונות, אז בהחלט נצטרך צוות של אנשים שתפקידם יהיה להגן על בני האדם מהמכונות", קובע נורדהאוס. "כיום אנחנו מוציאים כ־5% מהתוצר על ביטחון, והמספר הזה עשוי לגדול משמעותית כאשר נעמוד מול אויבים חזקים יותר כמו מכונות סופר־אינטליגנטיות. כך שלפחות מקצוע אחד ישרוד גם בעידן הסינגולריות".