האם המחשב ייהפך לאויב?

הוקינג נמנה עם מאות מדענים ובכירים מכל דרגי עולם הטכנולוגיה שחתמו על מכתב פתוח הקורא לפקח באופן הדוק יותר על פיתוח הבינה המלאכותית. עם החותמים נמנים האחראים על פרויקטי הבינה המלאכותית בגוגל, יבמ ופייסבוק, כמו גם יזם־העל אלון מאסק. יחד הם מצביעים על כך שהאבולוציה האנושית מתקדמת לאט, בעוד שהטכנולוגיה החישובית דוהרת במהירות, בלי שמפתחיה חושבים על היום שבו היא תותיר אותנו מאחור. ומה דעתכם?

סטיבן הוקינג

"מה אתם חושבים על מחשבים חושבים" היא השאלה לשנת 2015 של המגזין האינטרנטי היוקרתי Edge.org. מדי שנה המגזין מפנה שאלה זהה ליותר מ־150 אינטלקטואלים ומפרסם את תשובותיהם ברצף אחד, שבהמשך מתפרסם כספר עב כרס. רשימת המשיבים נעה בין בעלי טור ב"ניו יורק טיימס" לזוכי פרס נובל, מחברי רבי־מכר עולמיים וגיבורי טכנולוגיה, רבים מהם חברים קרובים של עורכו הססגוני של האתר, הסוכן הספרותי ג'ון ברוקמן. בעבר פורסמו באתר תשובות לשאלות: "איזה רעיון מדעי יש להוציא לגמלאות?", "איזה כלי ישפר את החשיבה של כולם?" ו"ממה עלינו לחשוש באמת?". השנה, כאמור, ברוקמן קרא לדגל 180 כותבים כדי להביע דעה בשאלה שהוקינג כבר חרץ דעתו לגביה. וגילוי נאות: שמחתי לקבל השנה הזמנה להשתתף ברב־השיח הזה, ותשובתי, שהצטוותה להיות קצרה - קצרה אף מהטור הזה - מתפרסמת באסופה השנתית.

כמה מהמשיבים, ובהם הסופרת פמלה מקורדוק, הפיזיקאי הצרפתי קרלו רובלי, פרופ' מרגרט לוי מאוניברסיטת סטנפורד וחתן פרס ישראל ונשיא מכון ויצמן לשעבר חיים הררי, מתייחסים למכונות החושבות כעובדה בלתי נמנעת, ובמידה רבה גם יומיומית. עניין לאחריות אנושית וניהול נכון כמו כל תחום אחר, ולא חומר לסיוטים. יותר ממכונות שיחשבו כמו אנשים, אני מודאג מאנשים שחושבים כמו מכונות, כותב הררי.

אחרים מתייחסים לעצם התחזית בביטול: סגן הנשיא למחקר של אוניברסיטת ג'ורג' וושינגטון, חוקר המוח לאו צ'אלופה, מפקפק בכך שמכונות אי פעם יהיו מסוגלות לחשיבה מופשטת. סופר המדע הבדיוני ברוס סטרלינג כותב שמחשבים אולי יהיו שחקנים מרכזיים בעתיד, אבל את התסריט לעולם יכתבו אנשים. הם ונוספים מדגישים שהרגש יישאר לנצח נחלתם הבלעדית של בני אנוש.

רבים שותפים לדאגה של הוקינג. חוקר ההצפנה ותרבות ההאקינג ברוס שנייר שואל על היום שבו מחשב בעל בינה מלאכותית מתקדמת יבצע, לראשונה, פעולה שמוגדרת עבירה פלילית. כותבים אחרים שואלים כיצד נפעל כאשר מחשב בעל בינה מלאכותית ויכולת למידה - מחשב כזה מפותח כיום בין היתר במעבדות גוגל - ידרוש זכויות. ותוכנת בינה מלאכותית שצברה ידע ותבניות תגובה, והפכה לייחודית ושונה מכל התוכנות האחרות - האם השמדה של תוכנה כזאת תיחשב כהשחתת רכוש גרידא? מייסד פרויקט ההרצאות TED כריס אנדרסון מצייר תרחיש מטריד, של בינה מלאכותית אחת, תודעה גלובלית אחת, שבה כל המחשבים - וגם האנשים - הם רק נוירונים.

הוקינג וטיורינג הם יותר משני אישים ששימשו השראה לסרט. השאלה שהתגבשה לאור פועלם עשויה להפוך לרלבנטית מהר מכפי שאנחנו משערים.